Модель на 3 миллиарда параметров решает олимпиадную математику лучше гигантов

Китайская команда Weibo выложила VibeThinker-3B, и это редкий случай, когда крошечная модель играет в одной лиге с тяжеловесами. Всего 3 миллиарда параметров, а на сложных задачах она дотягивается до уровня моделей в десятки раз больше.

Цифры впечатляют. На математической олимпиаде AIME за 2026 год модель набирает 94,3 балла, а с дополнительной техникой рассуждений показатель поднимается до 97,1. На бенчмарке IMO-AnsBench результат 76,4, который тоже растёт до 80,6. По сути это уровень, где модель почти не ошибается в задачах, над которыми ломают голову сильнейшие школьники мира.

С кодом история не хуже. На свежих еженедельных контестах LeetCode, которых модель раньше не видела, она прошла 123 задачи из 128 с первой попытки на Python. Это 96 процентов, и важно, что задачи были новыми, а не из обучающей выборки.

Главный вывод авторов идёт против привычной логики гонки за размером. Маленькие модели перестают быть просто дешёвой заменой больших. В узких областях с чёткой проверкой результата компактные модели способны выдавать рассуждения топового уровня, и это дополняет классический закон масштабирования, а не повторяет его.

Модель, код и статья уже открыты: веса лежат на Hugging Face, исходники на GitHub. Запустить такую можно даже на скромном железе, и в этом её главная сила.

Ссылки https://t.me/data_analysis_ml/5324