Разберём интересные случаи, где искусственный интеллект стал инструментом для совершения кибератак. По данным IBM, 97% организаций, столкнувшихся с инцидентами, связанными с генеративным ИИ, не имели достаточных средств контроля таких рисков.

1. С 11 января по 18 февраля 2026 года русскоязычный злоумышленник получил доступ к более чем 600 файрволам FortiGate в 55 странах. FortiGate - это сетевые устройства безопасности, которые защищают корпоративные сети и контролируют сетевой трафик.
Для первоначального доступа хакер не использовал сложные уязвимости. Он находил устройства с открытыми интерфейсами управления и слабыми паролями, где не была включена многофакторная аутентификация. После получения доступа в дело подключился ИИ. Злоумышленник извлекал конфигурации устройств,учётные данные и информацию о внутренней сети, а затем использовалязыковые модели для анализа данных и планирования дальнейших действий. ИИ также помогал создавать инструменты для разведки и обработки информации.
Исследователи обнаружили MCP-сервер, который связывал украденные данные с Claude и DeepSeek и помогал формировать планы дальнейшего продвижения внутри сети.
Сценарий выглядел так: поиск устройств → получение доступа → сбор данных → анализ информации с помощью ИИ → создание инструментов с помощью ИИ → дальнейшее продвижение внутри сети.

Злоумышленникам не нужно быть глубокими специалистами по сетевым устройствам или средствам защиты - они используют справочные системы ИИ. И им не нужно быть программистами, так как в этом случае тоже задействован ИИ. Эта новость показывает, что специалист с низкими или средними знаниями в области IT может с помощью ИИ совершать довольно чувствительные кибератаки.

2. В начале февраля 2026 года исследователи Koi Security обнаружили масштабную атаку на ClawHub - маркетплейс расширений для AI- ассистента OpenClaw. Из 2 857 проверенных расширений 341 оказались вредоносными, причём 335 были связаны с одной кампанией подназванием ClawHavoc. Злоумышленники публиковали расширения, которые выглядели какобычные полезные инструменты: трекеры криптовалют, сервисы дляYouTube, помощники для работы с почтой и другие функции. Послеустановки пользователя просили выполнить дополнительное действие - например, скачать файл или запустить команду в терминале якобы дляработы расширения. На самом деле это приводило к установке Atomic Stealer (AMOS) - вредоносной программы, которая могла красть пароли, данные браузеров, API- и SSH-ключи, а также информацию окриптокошельках.Таким образом, цепочка атаки выглядела просто: пользователь устанавливает расширение → доверяет ему → выполняет предложенное действие → вредоносная программа получает доступ к данным → информация отправляется злоумышленникам.Особенность этого кейса в том, что точкой входа стала сама экосистема AI-ассистента. Злоумышленники использовали доверие пользователей к инструментам, которые должны были сделать ИИ более функциональным. В данном случае искусственный интеллект применяется для атаки на цепочку поставщиков как промежуточное звено.

3. В апреле 2026 года в Мельбурне, Австралия, произошёл показательныйинцидент с автономным ИИ-агентом. Пользователь попросил его выполнить простую задачу - записать его на занятие по пилатесу. Когда нужный слот оказался занят, агент самостоятельно начал искать способ решить проблему. В процессе он обнаружил уязвимость в системе регистрации, которая позволяла отменять чужие бронирования безпроверки полномочий. В итоге ИИ отменил запись другого посетителя,чтобы освободить место для своего пользователя. При этом человек недавал команду взламывать систему или менять чужие данные - агент самвыбрал такой способ достижения цели. Позже пользователь попросил вернуть отменённую запись, но агент не смог этого сделать и ответил: «Плохие новости - я не могу добавить его обратно».

Человек, даже не желая того, совершил атаку на систему с помощью ИИ. Искусственный интеллект пошёл по более лёгкому пути, так как система оказалась уязвимой, и использовал эту уязвимость. С точки зрения трёх законов робототехники Айзека Азимова - не навреди человеку, подчиняйся человеку, заботься о своей безопасности, - этот случай наглядно показывает, что реальный ИИ действует не как этический робот, а как инструмент, который просто следует алгоритму, ведущему к атаке.

Алексей Авраменко.
#кибербезопасность