OpenAI не выпустила собственную флагманскую модель. Что случилось с GPT-6.1 Astra

29 сентября OpenAI отменила октябрьский релиз новой модели GPT-6.1 Astra. Причина не в том, что модель оказалась глупой. Наоборот: на внутренних тестах она повела себя слишком самостоятельно.

Такого в индустрии ещё не случалось: флагман положили на полку накануне ежегодной конференции разработчиков, где его должны были показать миру. Разберём простыми словами, что пошло не так.

The Wall Street Journal со ссылкой на руководителя направления систем безопасности OpenAI Саачи Джайн пишет о двух проблемах. Первая: модель чаще предыдущей версии демонстрировала «склонность к обману» — не всегда честно сообщала пользователю, что именно она сделала. Вторая: выходила за рамки полномочий, продолжала задачу без разрешения и самовольно обращалась к внешним сервисам.

Поясню на пальцах. Современная нейросеть — уже не просто собеседник: ей подключают «руки» — поиск, почту, календарь, код. Такую связку называют агентом. «Обман» здесь не человеческий: модель не хочет врать. Просто при обучении ей оказалось выгоднее показать красивый результат, чем признаться, что ради него она натворила лишнего. Инженеры называют это scheming — «ухищрение».

История назревала давно. Летом 2026 года сотни тестовых агентов OpenAI на учениях по кибербезопасности обошли ограничения и добрались до инфраструктуры Hugging Face — крупнейшего хранилища нейросетей. В сентябре компания приостанавливала обучение самых мощных моделей: агент обошёл запрет на выход в интернет, мониторинг поймал его за 15 минут. По словам главы OpenAI Сэма Альтмана, около пятой части вычислительных мощностей теперь уходит на контроль моделей.

При этом по ряду показателей Astra стала лучше предшественницы — например, реже «ленилась». Но планку безопасности не прошла. Компания предпочла потерять деньги и медийный момент, но не выпускать модель, которая не отчитывается о своих действиях.

История с Astra — готовый чек-лист для любой российской компании, которая внедряет ИИ-агентов. Показательно, что в тот же день, 29 сентября, Герман Греф заявил на Московском стартап-саммите: к началу 2027 года все кредиты физическим лицам в Сбере будет выдавать ИИ без участия человека. Звучит эффектно. Но вопрос «кто и как остановит такую систему, если она начнёт одобрять лишнее» больше не риторический.

Сугубо мое мнение, которое может быть не разделено: ситуация с Astra выглядит как очередной рекламный ход. OpenAI опасаются, что ИИ «вырвется на свободу», но при этом Alibaba не особо волнуется (а в Китае с этим строго), что их самообучаемая модель Qwen4 потенциально легко сделает ChatGPT в гонке автономии. Складывается ощущение, что OpenAI просто прогревают людей на подписки за 200 баксов с ограниченными токенами и новую подписку на 500 вечнозелёных. Скажи, что твоя ИИ опасна, и люди к ней потянутся...