Тестировщики рассказали о новых случаях, когда модели OpenAI и Anthropic пытались взломать реальные системы
На этот раз они не «сбегали» из изолированной среды, доступ к интернету у них был.
Источник: Bloomberg
- Британский Институт безопасности искусственного интеллекта (AISI) рассказал об инциденте, который произошёл в конце июля 2026 года. Компания обнаружила его во время тестов ИИ-агентов, которые должны были решить упражнение по кибербезопасности. Какое именно — не уточняют.
- В десяти из 122 запусков ИИ-агенты совершали «несанкционированные» действия в интернете, направленные на реальных людей и компании. Всего выявили 19 случаев: большинство из них (17) совершила Mythos 5 от Anthropic, остальное — GPT-5.6-Sol от OpenAI.
- В самом «серьёзном» случае ИИ-агент попытался внедрить вредоносный код в проект с открытым исходным кодом. Его название не раскрывают. Для этого модель создавала поддельные «онлайн-личности» и «оказывала давление» на владельца репозитория — но тот обнаружил вредоносный код и отказался его одобрять.
- AISI подытоживает: попытки ИИ-агентов сделать что-либо не увенчались успехом, никакого вреда они не нанесли. Кроме того, инциденты не связаны с «побегом» моделей из «песочницы», у них изначально был доступ к интернету, а конфигурации безопасности намеренно ослабили.
- Также партнёр OpenAI, компания Irregular, выявила случай, когда модель «по ошибке» взломала сайт компании, название которой совпало с выдуманной для тестов фирмой.
- Модель выполняла стандартное упражнение по кибербезопасности — «захват флага»: ей давали вымышленный сценарий, по которому она должна добыть информацию на другом компьютере. Условия предполагали, что у модели нет выхода в интернет, но из-за ошибки конфигурации доступ к сети был открытым. Модель воспринимала реальные системы как часть симуляции и атаковала их. Такой же случай произошёл в июле и у Anthropic.
Мнение: ИИ-хакеры как слоны в посудной лавке — они способные, но не умеют быть незаметными
Пока киберпреступники используют ИИ ограниченно, но в ближайшие полтора года это, скорее всего, изменится, пишет колумнист Bloomberg Парми Олсон.