Microsoft представил модель Mu для локальных AI-агентов
Mu — это компактная модель с архитектурой кодер-декодер, заточенная под нейропроцессоры (NPU) на устройствах вроде Copilot+ PC. Благодаря оптимизации она может генерировать больше 100 токенов в секунду прямо на устройстве — быстро, экономно и без подключения к облаку.
Mu уже отвечает за работу бета-версии агента в настройках Windows. Пользователь пишет запрос — например, «уменьшить яркость экрана» — и модель превращает это в конкретное действие. За счет глубокой настройки Mu умеет различать, какой из мониторов имелся в виду, и адаптируется к контексту.
Чтобы добиться такой отзывчивости, Microsoft сильно прокачал модель: изменил архитектуру, квантовал параметры, обучал на A100 в Azure, использовала знания Phi и прогнал через сотни тысяч кастомных запросов. В итоге Mu оказалась сопоставима по точности с более крупными моделями, имея при этом размер в 10 раз меньше.
Подписывайтесь на Telegram GPT/ChatGPT/AI Central Александра Горного.