$50 или $15: GPT-6 Astra против Kimi K3 и почему умные команды берут обе

Две frontier-модели с окном в миллион токенов вышли с разницей в семь недель. Одна стоит $10 за миллион входных токенов и $50 за миллион выходных, и её можно только арендовать. Вторая стоит $3 и $15, а её веса можно скачать. Разбираем по мотивам большого материала slash1s, какую модель под какую задачу брать и зачем держать в стеке обе.

3 сентября четыре чат-бота от четырёх разных компаний за пять минут замолчали сразу после того, как OpenAI выложила ролик с выстраивающимися звёздами. Их ответы по буквам складывались в слово ASTRA. К вечеру модель уже была доступна, Грег Брокман говорил об AGI, а Сэм Альтман извинялся за сумбурный релиз.

Шум был заслуженный. GPT-6 Astra заметно продвинулась там, куда OpenAI и целилась: управление компьютером, удержание миллиона токенов в контексте, решение сложных задач за меньшее число шагов, чем у человека.

При этом спецификации двух моделей читаются как описания разных продуктов. Astra закрытая, выкатывается поэтапно, для enterprise по умолчанию выключена, а самые сильные возможности спрятаны за отдельным допуском. Kimi K3 от Moonshot вышла как открытые веса на 2,8 трлн параметров и доступна для скачивания с июля. Окно контекста совпадает почти до токена: 1 050 000 у Astra и 1 048 576 у K3.

Главный козырь Astra в управлении компьютером. На OSWorld 2.0 модель набирает 72,6% и тратит около сорока минут на задачу. Предыдущая версия давала 65,7% за семьдесят пять минут. Рост качества одновременно с ускорением на одном и том же бенчмарке случается редко, и это видно по демо, которые люди собрали за неделю после релиза.

Второй сильный пункт касается длинного контекста. На MRCR с восемью «иголками» Astra держит 100% до 512 тысяч токенов и 96,3% в диапазоне от 512 тысяч до миллиона. Это лучший опубликованный результат по глубокому поиску в контексте среди frontier-лабораторий. В Codex модель ведёт рабочие заметки между окнами контекста и не сжимает всё в одно резюме, поэтому в долгой отладке она помнит, почему не сработал первый фикс.

Дальше идут рекорды: 97,6% на FrontierMath Tier 4 и меньше действий, чем у медианного человека, на 96% уровней ARC-AGI-3. Самая впечатляющая строка связана с безопасностью: 0% жульничества на honeypot-задачах против 48,2% у предшественника и 2,4% сбоев при работе с компьютером против прежних 22%.

Если у вас одна тяжёлая задача, один агент и ошибка стоит дороже токенов, берите Astra. В таких сценариях $50 окупаются.

Громче всего OpenAI показывала 99,9% на ARC-AGI-3, бенчмарке, специально устойчивом к запоминанию. В тот же день ARC Prize опубликовали свой прогон. На стандартной обвязке, где каждый вызов независим и модель переносит только собственные заметки, Astra набрала 62,7%. На адаптере OpenAI, который сохраняет непрозрачное состояние рассуждений между запросами и сжимает длинные прогоны, вышло 99,9%. Одни и те же веса, один день, разница в 37 пунктов.

ARC Prize принимает оба результата, и высокий балл вполне честный. Проблема в том, что лучшая версия Astra живёт внутри инфраструктуры OpenAI, которую нельзя прочитать, воспроизвести или запустить у себя. Если вызывать модель без состояния из своего стека, вы получите нижнюю планку.

Похожая картина видна и в других деталях релиза. Astra стала первой моделью OpenAI с рейтингом Critical по киберрискам. Публичная версия отказывается писать эксплойты, реальные возможности открываются через программу доверенного доступа Daybreak, а проверки безопасности могут ставить на паузу посторонние задачи. Fortune писал, что метод повышения эффективности в новой архитектуре тревожит исследователей безопасности: рассуждения модели становится сложнее отслеживать. Добавьте поэтапный релиз и выключенный по умолчанию enterprise-доступ, и получится, что потолок возможностей поставляется в обёртке, которой вы не управляете.

K3 заточена под широкую работу, когда сотни агентов параллельно разбирают одну большую задачу. Agent Swarm запускает до 300 субагентов на примерно 4000 согласованных шагов. Параллелизм заложен в модель на этапе обучения, отдельный фреймворк сверху для этого не нужен. По данным Moonshot, такой прогон завершается примерно в 4,5 раза быстрее, чем последовательная работа одного агента.

Схема дешёвая по задумке. При цене $3 за вход, $0,30 за кэшированный вход и $15 за выход рой может позволить себе расточительность: сделать попытку, выбросить её и запустить заново. Цена кэша влияет сильнее, чем кажется. Рой сотни раз перечитывает одну и ту же спецификацию и одни и те же файлы, поэтому большая часть токенов попадает в дешёвую категорию.

K3 можно держать у себя. Веса на 2,8 трлн параметров опубликованы, модель можно развернуть за своим файрволом и дообучить под внутренние конвенции. CLI бесплатный и распространяется под лицензией MIT. С июля команды, которым запрещено отправлять хоть строчку проприетарного кода во внешний API, получили frontier-модель для локального запуска.

Недооценённая сильная сторона K3 связана со зрением внутри рабочего цикла. Модель пишет код, смотрит на живой скриншот результата и исправляет ошибки. Так появились вирусные демо на запуске, и так же 48-часовой автономный прогон спроектировал и проверил чип на открытых EDA-инструментах. На выходе получился готовый артефакт, который можно потрогать.

Одна сложная задача, один агент в браузере, самый глубокий поиск по миллиону токенов: здесь Astra вне конкуренции. Широкая параллельная работа, стоимость на реальных объёмах, владение весами, прозрачность поведения модели и возможность начать пользоваться уже на этой неделе: здесь выигрывает K3.

Самая частая ошибка команд в этом месяце будет выглядеть так: платить $50 за миллион токенов на широкой работе или пытаться прогнать через рой задачу, которой нужен один вдумчивый агент.

Самая интересная сборка использует обе модели и распределяет задачи по типу. K3 берёт на себя широкую работу: ресёрч, распараллеливание, сотню файлов, первые черновики. Astra стоит на одном шлюзе в конце, там, где неверное решение обходится дороже проверки. Основная масса токенов идёт по $15, и только токены, от которых что-то зависит, идут по $50.

Конфиг маршрутизации из оригинальной статьи:

Стоимость легко посчитать по опубликованным ценам. Возьмём прогон роя на 4000 шагов, где каждый шаг читает около 2000 токенов и пишет 500. Получается 8 млн входных и 2 млн выходных токенов.

На Astra такой прогон обойдётся примерно в $180, на K3 в $54, а с кэшем около $32. Финальная проверка силами Astra стоит порядка $4,50. Дорогая модель обходится дешевле чашки кофе, если она читает готовый ответ и не генерирует его целиком.

Спецификация проверяющего прохода короткая. На вход подаётся итоговый результат роя и список источников. Задача прохода в поиске ошибок, похвала результатом не считается. У каждого числа должен быть источник и время чтения, противоречащие друг другу выводы должны быть помечены. На выходе список исправлений со ссылками на конкретные строки или одно слово «clean». Переписывать работу проверяющему запрещено.

Если у вас одна новая сложная задача в день, Astra выходит дешевле за результат, чем любой рой: триста агентов не помогут с вопросом, которому нужен один глубокий мыслитель. Если процесс строится на управлении компьютером и метрика считается в минутах на задачу, ориентируйтесь на сорокаминутный результат Astra на OSWorld, открытые модели до него пока не дотягивают. Если вы живёте в Codex, одни только постоянные заметки оправдывают тариф.

Платить за потолок стоит тогда, когда вы в него упираетесь. У большинства команд это небольшая доля токенов.

Astra сейчас самый мощный одиночный агент, которого можно арендовать, и условия аренды заслуживают внимания: цена в 2,5 раза выше, чем у предшественника, лучший результат получен в обвязке, которую нельзя посмотреть, топовые возможности закрыты допуском, а в админке enterprise модель по умолчанию выключена. K3 самая мощная модель, которой можно владеть целиком: веса, CLI, рой и счёт, который растёт вместе с объёмом работы.

В этом квартале выиграют команды, которые научатся распределять задачи между обеими моделями.