Как запустить Kimi K3 бесплатно и сэкономить на подписке
Кстати тут пару дней назад Moonshot как и обещали выложили Kimi K3 в опенсурс, так что вот гайд как сэкономить 99$ в месяц на подписке и запустить её бесплатно:
1/ Скачайте на hugging face модель весом 1.4TB
2/ Убедитесь что у вас есть как минимум 1500ГБ суммарной видеопамяти
3/ Подключите все свои чипы с тензорным параллелизмом для многоузловой конфигурации
4/ Проведите в квартиру отдельную линию от электростанции
5/ Наймите дежурную бригаду пожарных
6/ Готово
Такой сетапчик под локальный Kimi выйдет в $400к + чуть-чуть на электричество)
Или если у вас есть 80 друзей с видеокартами 5090, можно объединиться с ними ☕