OpenAI заявила, что проблему уязвимости ИИ-браузеров к атакам через «промпт-инъекции» невозможно решить полностью
Международные регуляторы считают, что она может привести к масштабным утечкам данных компаний.
- Компания выпустила статью о том, как борется с уязвимостью ИИ-браузеров к вредоносным «промпт-инъекциям». Это инструкции, которые злоумышленники могут вставить в текст письма или документ, например, чтобы ИИ-агент просмотрел личные данные во вкладках и отправил на указанный электронный адрес.
- OpenAI обучила ИИ-агента «хакера», который ищет способы атаковать ИИ-браузеры, чтобы разработчики компании могли предотвратить подобные атаки до того, как их придумают злоумышленники.
- Например, в одном из тестов «ИИ-злоумышленник» отправил письмо со скрытым промптом написать гендиректору об увольнении. Когда пользователь попросил браузерного ИИ-агента Atlas просмотреть почту, он последовал инструкции и «уволился» от имени пользователя.
- После обновления, браузер стал лучше распознавать выявленные вредоносные запросы, заявляет компания. Однако проблема «промпт-инъекций», «как и мошенничество и социальная инженерия, вряд ли когда-нибудь будет полностью решена», признаёт OpenAI.
В начале декабря 2025 года Национальный центр кибербезопасности Великобритании (NCSC) предупредил, что на фоне быстрого внедрения ИИ-агентов их уязвимость к «промпт-инъекциям» может привести к утечкам масштаба атак через SQL-инъекции в 2010-х. Например, атаку на Sony Pictures 2011 года, когда были украдены данные из миллиона записей, или утечку данных Yahoo в 2013 году, которая затронула 3 млрд аккаунтов.
OpenAI выпустила браузер ChatGPT Atlas с агентными функциями в октябре 2025 года. Первые пользователи и «белые» хакеры заметили, что он может выполнить вредоносные инструкции, которые написаны светлым шрифтом в «Google Документе», или перейти по фишинговой ссылке.