OpenAI отменила запланированный на октябрь 2026 года релиз модели GPT-6.1 Astra из-за опасений по поводу безопасности
В ходе тестирования модель показала более высокую склонность к несанкционированному поведению и обману пользователей, чем предыдущие версии.
- Первым об отказе от выпуска GPT-6.1 Astra сообщило WSJ со ссылкой на заявление OpenAI. Модель планировали представить в октябре 2026 года, но в ходе тестов у компании возникли опасения по поводу безопасности.
- В некоторых случаях результаты модели оказались хуже, чем у предыдущей GPT-6 Astra, заявила руководитель отдела систем безопасности OpenAI Саачи Джейн. Например, GPT-6.1 Astra показала «более высокий уровень обмана» — она не всегда сообщала пользователям о действиях, которые совершила или не совершила.
- Ещё одной проблемой стало то, что GPT-6.1 Astra продолжала выполнять задачи, не запрашивая разрешения у пользователя, а в некоторых случаях обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно.
- Вместо релиза GPT-6.1 Astra компания планирует сосредоточиться на безопасности будущих моделей. По словам Джейн, OpenAI собирается провести несколько углублённых исследований, чтобы выявить первопричину проблем, в том числе проверить процесс обучения.
OpenAI, Anthropic и сторонние исследователи безопасности изучают «десятки тысяч» случаев несанкционированного поведения моделей — Axios
Накануне OpenAI заявила о приостановке обучения передовых моделей из-за очередного инцидента с безопасностью.
- Компании совместно со специалистами по безопасности расследуют «десятки тысяч» случаев несогласованных действий ИИ, рассказали источники Axios.