Thinking Machines Lab Миры Мурати выпустила Inkling-Small - открытую MoE-модель на 276 млрд параметров, которая активирует лишь 12 млрд на токен.

И эта «младшая» версия обошла Inkling с 41 млрд активных параметров:

— Terminal-Bench 2.1: 64,7% против 63,8%;

— HLE: 31,6% против 29,7%;

— SWE-Bench Verified: 80,2% против 77,6%.

Результат получили после on-policy-дистилляции от старшей модели и ещё двух недель RL на агентном программировании.

Inkling-Small поддерживает изображения и аудио, контекст до 1 млн токенов и регулируемую глубину рассуждений. Веса опубликованы полностью.

Похоже, у разработчиков мультимодальных агентов появился крайне эффективный открытый фундамент.

https://thinkingmachines.ai/news/inkling-small/