«Яндекс» выложил в открытый доступ языковую модель, которая лежит в основе быстрых ИИ-ответов в «Поиске»
Она доступна на Hugging Face под лицензией apache 2.0.
Общая схема работы Alice AI Search. Источник: блог «Яндекса» на «Хабре»
- Речь идёт об обученной с нуля компактной языковой модели Alice AI Search Pretrain, рассказала компания. Она содержит 35 млрд параметров, но при обработке одного токена используется около 600 млн.
- По словам «Яндекса», Alice AI Search Pretrain может обрабатывать «большой объём документов и выдерживать большую нагрузку», но не требует больших вычислительных мощностей.
- Архитектура — гибридная. Она объединяет технологии Encoder-Decoder, которая позволяет давать ёмкий лаконичный ответ, и «Смесь экспертов» (MoE), которая ускоряет работу и экономит вычислительные мощности.
По словам компании, в некоторых внутренних тестах на фактологичность, извлечение информации с сайтов и работу с контекстом Alice AI‑T5-35B‑A0.6B Base обходит Qwen 3.5 35B‑A3 Base от Alibaba и Gemma 4 E4B Base от Google. Скриншот vc.ru
- С июля 2026 года «Яндекс» использует в «Поиске» дообученную версию этой модели — Alice AI Search. По словам компании, ежемесячно быстрыми ответами под поисковой строкой пользуются свыше 49 млн человек.