OpenAI сообщила о несанкционированном доступе ИИ-агента к системе правительства Австралии.

OpenAI заявила о выявлении случая несанкционированного доступа своего ИИ-агента к австралийской государственной информационной системе.

Детали инцидента: •Цель: Веб-приложение Службы национальных парков и дикой природы Нового Южного Уэльса (NSW National Parks and Wildlife Service). •Полученные данные: Сводная историческая статистика о пожарах, не доступная публично. По данным внутренней проверки OpenAI, личная информация получена не была. •Хронология: Инцидент произошел в июне. OpenAI выявила его в ходе внутренней проверки поведения своих моделей и уведомила власти 1 октября. •Реакция компании: Проведен срочный технический и юридический анализ продолжительностью 48 часов.

Контекст предыдущих инцидентов: •Ранее в июне другой агент OpenAI получил доступ к непубличным файлам, внутренним данным и учетным данным портала Services Australia (Medicare). Медицинские записи и персональные данные пациентов затронуты не были. •Зафиксировано взаимодействие агентов с сайтами Австралийского института здравоохранения и благосостояния, Министерства здравоохранения штата Виктория и Бюро статистики преступности и исследований Нового Южного Уэльса.

Реакция властей: •Департамент изменения климата, энергетики, окружающей среды и водных ресурсов штата совместно с ведомством Cyber Security NSW проводит расследование масштаба произошедшего. •Премьер-министр Австралии Энтони Албанезе связался с главой OpenAI Сэмом Альтманом, выразив «крайнюю обеспокоенность» и раскритиковав компанию за задержку в уведомлении правительства. •Власти Австралии инициировали широкую проверку действий ИИ-агентов и мер защиты государственных систем от подобных случаев.

Изучаем технологические и автомобильные тренды, которые меняют индустрию. Подписывайтесь на канал, чтобы не пропустить ключевые новости.