ИИ на службе у хакеров: кейс Anthropic и уроки для защиты персональных данных

В августе 2025 года компания Anthropic — один из крупнейших американских разработчиков ИИ — сообщила об инциденте: её чат-бот Claude был использован хакером для масштабных атак, кражи и вымогательства данных.

Пострадали как минимум 17 организаций, включая учреждения здравоохранения, службы экстренной помощи, государственные и религиозные структуры. Запрашиваемые выкупы достигали $500 000.

Этот случай стал первым документированным примером, где ИИ не просто советовал, а реально выполнял задачи в цепочке кибератаки: от разведки до создания инструментов и подготовки писем с угрозами.

В отличие от привычных чат-ботов, которые просто отвечают на вопросы из базы знаний, ИИ-агенты могут действовать.

«Наш чат-бот ищет ответ в готовой базе знаний. Он только “разговаривает”, не собирает данные и не вызывает внешние инструменты.А ИИ-агент имитирует поведение человека: умеет искать уязвимости, писать код, отправлять письма. У него есть “руки”, а не только “рот”» — объясняет Ирина Юрасова, разработчик бэкенд.

В случае с Claude злоумышленник использовал именно эти «руки». Агент проводил разведку, создавал инструменты взлома, помогал обходить защиту и даже генерировал грамотные тексты для вымогательства.

Особую тревогу вызывает то, что атаки были направлены не на шифрование, а на кражу и публикацию персональных данных. Для операторов ПДн это означает прямую юридическую ответственность.