OpenAI представила опцию Lockdown Mode, которая «снизит» риск утечки данных для корпоративных клиентов ChatGPT

Она должна защитить пользователя от кражи данных через промпт-инъекции.

Lockdown Mode — это дополнительная настройка безопасности. При включении она блокирует сетевые возможности, которые злоумышленники могут использовать для вывода данных. Из-за этого режим накладывает некоторые ограничения.
Бот сможет просматривать только кэшированный контент на сайтах — результаты поиска «могут быть устаревшими». Не работают «Глубокое исследование», режим ИИ-агента и «Холст» (Canvas). Также ChatGPT не будет сопровождать ответы изображениями из поиска. При этом генерация картинок доступна.
Компания разработала настройку для организаций и специалистов, которые обсуждают с чат-ботом конфиденциальные данные. Она доступна подписчикам ChatGPT Enterprise и Edu, а также в режимах ChatGPT for Healthcare и ChatGPT for Teachers в США.

OpenAI заявила, что проблему уязвимости ИИ-браузеров к атакам через «промпт-инъекции» невозможно решить полностью

Международные регуляторы считают, что она может привести к масштабным утечкам данных компаний.