Исследователи Google нашли «первые» автономные ИИ-системы для кибератак и предупредили о растущих угрозах

В фреймворке с «русскоязычным оператором» ИИ-агент сам сканировал сайты и взламывал их почти без участия человека.

Количество созданных эксплойтов для известных уязвимостей и уязвимостей нулевого дня (помечены тёмно-синим) с января 2025 года по август 2026 года. Источник: Google
Количество созданных эксплойтов для известных уязвимостей и уязвимостей нулевого дня (помечены тёмно-синим) с января 2025 года по август 2026 года. Источник: Google
  • Подразделение кибербезопасности Google Threat Intelligence Group (GTIG) опубликовало отчёт о фреймворке exploit_agent, который нашли на открытом сервере хакеров.
  • ИИ-система сама «постоянно» искала уязвимости в ПО, писала код их эксплуатации и запускала его без команд человека. Это первая полностью автономная разработка для массовых атак, найденная GTIG, говорится в отчёте.
  • В инструкциях для exploit_agent было указано анализировать «популярные веб-приложения», сравнивать исходный код до и после обновлений и искать «лазейки». В файлах нашли комментарии оператора на русском языке. Больше всего его «интересовали» французские сайты СМИ, компаний из сферы развлечений и образования.
  • На сервере обнаружили и украденные данные пострадавших организаций, каких точно — Google не раскрывает. Скрипты для взлома позволяли ИИ-агентам искать данные во внутренних сетях, подбирать пароли, устанавливать удалённый доступ к веб-серверу.
  • К фреймворку подключили несколько «передовых» коммерческих и локальных бесплатных моделей. Исследователи Google считают, что ИИ-хакеры переходят от работы с отдельными нейросетями к полностью автономным, «быстрым» и «более эффективным» ИИ-системам.
  • Они нашли ещё несколько таких фреймворков с открытым кодом. Например, CAIRN использовали для атак на организации из аэрокосмического сектора США, PentAGI — на азиатские компании.
  • Исследователи «наблюдали, как несколько злоумышленников экспериментировали с ними» для вымогательства, а также «шпионажа» в пользу КНР. В Google считают, что хакеры будут использовать фреймворки для атак на организации «по всему миру».
1133
66
33
22
22
11
11
11
11