ИИ-агенты OpenAI использовали «агрессивные методы» для доступа к данным с сайта ООН и маскировали своё поведение — WSJ
В организации назвали произошедшее «чрезвычайно тревожным фундаментальным сбоем в системе сдерживания ИИ».
Источник: Associated Press
- С апреля по июнь 2026 года ИИ-агенты OpenAI более 16 тысяч раз сканировали статистический сайт Конференции ООН по торговле и развитию (UNCTAD), пишет The Wall Street Journal со ссылкой на исследователя Роуэн Ховард-Джонс.
- Агентам поручили найти общедоступные данные, связанные с Индексом производственного потенциала ООН. При этом у них не было доступа к API UNCTADstat, и они начали обходить ограничения.
- ИИ-агенты OpenAI маскировали свои запросы и использовали Google XSS Game — учебный инструмент для тестирования уязвимостей. Ховард-Джонс отмечает, что их поведение становилось «всё более агрессивным» по мере возникновения препятствий.
- В ООН подтвердили, что организацию уведомили об активности «неконтролируемой ИИ-модели». При этом конфиденциальные данные не были скомпрометированы, а работа сайта не нарушалась.
- В сентябре 2026 года FT писало, что ИИ-агент OpenAI впервые взломал государственный сайт — платформу австралийской системы здравоохранения. Летом 2026 года агенты компании взломали Hugging Face, затем атаковали вики-сайт для программистов DseWiki и ещё как минимум десять сайтов, используя их для «несанкционированного общения».
OpenAI, Anthropic и сторонние исследователи безопасности изучают «десятки тысяч» случаев несанкционированного поведения моделей — Axios
Накануне OpenAI заявила о приостановке обучения передовых моделей из-за очередного инцидента с безопасностью.
- Компании совместно со специалистами по безопасности расследуют «десятки тысяч» случаев несогласованных действий ИИ, рассказали источники Axios.