Kimi K3 теперь можно запустить дома бесплатно. Понадобится всего 1,56 ТБ памяти
Moonshot AI выполнила обещание и открыла полные веса Kimi K3.
Теперь можно не платить $99 в месяц за тариф Allegro, а бесплатно запустить модель на собственном оборудовании.
Ловите простой гайд:
- Скачайте с Hugging Face файлы общим объёмом 1,56 ТБ.
- Найдите кластер, способный разместить модель и служебные данные в памяти.
- Настройте тензорный и экспертный параллелизм.
- Решите вопрос с охлаждением и электричеством.
- Наслаждайтесь сэкономленными $99.
Само железо обойдётся в сотни тысяч долларов, но зато никакой подписки.
Это не совсем open-source
Технически корректнее называть Kimi K3 моделью с открытыми весами.
Moonshot опубликовала веса под собственной Kimi K3 License, а не под стандартной открытой лицензией вроде MIT или Apache 2.0. Изучать, разворачивать и адаптировать модель можно, но перед коммерческим использованием всё равно придётся прочитать условия.
На Hugging Face лежит 96 файлов весов примерно по 17 ГБ. Общий размер репозитория — 1,56 ТБ.
Почти три триллиона параметров
Kimi K3 разреженная MoE-модель на 2,8 трлн параметров. Во время генерации она использует не всю махину сразу, а около 104 млрд параметров, выбирает 16 экспертов из 896.
Также модель получила:
- контекст на 1 048 576 токенов;
- встроенное понимание изображений;
- несколько уровней глубины рассуждений;
- поддержку продолжительных агентных задач;
- работу с кодом, терминалом и внешними инструментами.
Moonshot называет K3 первой открытой моделью класса 3 трлн параметров.
Она действительно обогнала Claude и GPT?
В отдельных тестах да.
В таблице Moonshot Kimi K3 занимает первое место в ProgramBench, SWE-Marathon, BrowseComp, DeepSearchQA, ResearchRubrics и MCPMark-Verified.
Но называть её безоговорочным лидером нельзя. В других тестах впереди остаются GPT-5.6 Sol и Claude Fable 5, а в техническом отчёте сама Moonshot признаёт, что по совокупному качеству K3 пока уступает сильнейшим закрытым моделям.
Зато теперь её можно изучать и запускать внутри собственной инфраструктуры, не отправляя код и документы внешнему провайдеру.
Если, конечно, ваша инфраструктура переживёт знакомство с 2,8 трлн параметров.
51 миллион временных компьютеров
Самая интересная цифра из отчёта связана даже не с размером модели.
Во время обучения и тестирования K3 команда создала 51 219 741 изолированную среду на основе 1 505 678 образов.
Каждая такая среда была почти отдельным временным компьютером. Агент мог подключать диски, запускать контейнеры и виртуальные машины, редактировать файлы и выполнять команды.
До 98% времени среды просто ждали ответа модели. Поэтому Moonshot научила систему ставить их на паузу, освобождая процессор и оперативную память, а затем восстанавливать работу минимум за 49 миллисекунд.
Без этой технологии миллионы простаивающих сред превратились бы в отдельную дыру в бюджете.
Что на самом деле открыла Moonshot
Kimi K3 вряд ли поселится на домашнем ПК в ближайшее время. Даже её сжатые версии потребуют крайне серьёзного железа.
Но открытые веса позволят другим компаниям:
- запускать модель внутри своего контура;
- создавать новые квантизации;
- изучать архитектуру;
- дообучать её под узкие задачи;
- строить собственные сервисы без зависимости от API Moonshot.
Получается новый вид бесплатного ИИ, модель ничего не стоит, но серверная для неё пригодится уровня небольшого дата-центра.
Стали бы скачивать 1,56 ТБ весов ради экономии на подписке?
Не отставайте от технологий! Подписывайтесь на Telegram-канал, чтобы быть в курсе последних трендов и лайфхаков.