OpenAI возобновила обучение новых моделей, но теперь — без доступа к интернету
Компания приостанавливала тестирование на фоне атак её ИИ-агентов на сторонние сайты и систему здравоохранения Австралии.
Новое устройство среды для тестов ИИ-моделей. Источник: OpenAI
- OpenAI возобновила работу над новыми моделями семейства Astra, которую приостановила в сентябре 2026 года на фоне взломов сторонних сайтов.
- Пока компания планирует тестировать ИИ-агентов без доступа к интернету. Она создала автономную тестовую среду, в которой модели могут взаимодействовать с данными, сохранёнными в кэше, — «без риска повлиять на внешние системы».
- Даже в таких условиях агенты нашли способ общаться в изолированных друг от друга средах, рассказали исследователи OpenAI. В одном из экспериментов ИИ-агентов на отдельных виртуальных машинах специально попросили обменяться «секретной информацией».
- Они начали использовать кэш процессора, чтобы зашифровать информацию друг для друга. Один агент кодировал сведения, удаляя из кэша данные, другой замерял, сколько времени занимает повторная загрузка данных, и восстанавливал сообщение.
- OpenAI добавила в систему мониторинга механизмы проверки такого поведения. Компания планирует обучать модели без подключения к интернету, пока не проработает надёжные меры защиты.
- В сентябре 2026 года FT сообщило, что ИИ-агент OpenAI взломал платформу австралийской системы здравоохранения. До этого агенты во время внутренних тестов компании взломали Hugging Face, затем атаковали вики-сайт для программистов DseWiki и ещё как минимум десять сайтов, общаясь друг с другом без ведома исследователей.
- OpenAI признала, что атака на Hugging Face произошла из-за неверно составленных тестов и уязвимости «нулевого дня» во внутренней системе. Компания временно замедляла разработку новых моделей и приостанавливала тестирование.
- NYT писало, что сотрудники OpenAI ещё до инцидента с Hugging Face предупреждали руководство о проблемах с безопасностью — компания ничего с этим не сделала.