Курс CS336 2025 от Стэнфорда по языковому моделированию с нуля выложили на YouTube (https://www.youtube.com/playlist?list=PLoROMvodv4rOY23Y0BoGoBGgQ1zmU_MT_), и это кажется очень непростая штука, при этом люди пишут на Реддите, что это один из лучших по большим языковым моделям.

Задания -сложные, например, первое на 50 страниц, где надо кодить токенизатор BPE, простенький трансформер, а потом ещё обучать модель на OpenWebText.

p.s. выложили 2 месяца назад - свежачок :)

Подписывайтесь на Telegram Русский ИТ бизнес 👨.

11