Mistral представила Large 4

Модель под кодовым названием Le Chonk получила 1 трлн параметров, но благодаря MoE-архитектуре на каждый запрос активирует только 49 млрд. Она изначально мультимодальная и работает с текстом и изображениями.

По данным Mistral, Large 4 стала лучшей моделью с открытыми весами из США и Европы по совокупности бенчмарков.

Компания отдельно выделяет задачи кибербезопасности, производства и финансов, а в визуальном понимании модель обходит некоторые закрытые флагманские модели.

Весь цикл разработки и инфраструктура находятся в Европе. Large 4 уже доступна через API и Mistral Cloud, а открытые веса компания обещает выпустить в конце октября.

Для задач кибербезопасности Mistral пока работает с партнёрами в закрытом режиме.