Как нейросети помогают преступникам

Раньше на создание сложной схемы у среднего пошиба мошенников уходили дни, а то и недели, но сейчас при помощи нейросетей то же самое они могут реализовать за минуты. Это показал девятый выпуск отчета Cyber Signals под названием «Обман с помощью ИИ: новые угрозы мошенничества и методы противодействия». Теперь даже не слишком умные скамеры могут разрабатывать уловки, на которые раньше были способны единицы.

Инструменты на основе искусственного интеллекта могут собирать информацию о компаниях в интернете, помогая киберпреступникам создавать подробные профили потенциальных жертв для проведения эффективных атак методом социальной инженерии.

Злоумышленники заманивают пользователей в сложные схемы мошенничества, используя фальшивые обзоры товаров и созданные ИИ интернет-магазины.

По словам Келли Бисселл, корпоративного вице-президента подразделения Microsoft Security по борьбе с мошенничеством и злоупотреблениями продуктами, угроза продолжает расти: «Киберпреступность — это проблема на триллионы долларов, и ее масштабы увеличиваются с каждым годом на протяжении последних 30 лет».

По данным команды Microsoft по борьбе с мошенничеством, атаки с применением ИИ происходят по всему миру, особенно активны регионы Китая и Европы — в частности, Германии, как одного из крупнейших рынков электронной коммерции в ЕС.

Чем крупнее цифровая торговая площадка, тем выше вероятность мошенничества пропорционально ее размерам.

Особое беспокойство вызывают два направления мошенничества, усиленного ИИ: электронная коммерция и поиск работы.

Теперь скамеры могут создать фальшивый сайт за считанные минуты, обладая минимальными техническими знаниями. Такие сайты часто имитируют реальные компании. ИИ в них используется для генерации описаний товаров, изображений и отзывов клиентов, чтобы обмануть потребителей.

Дополнительный уровень обмана добавляют чат-боты на основе ИИ, которые могут убедительно общаться с клиентами, затягивать возврат средств, ссылаясь на заготовленные отговорки, и создавать впечатление профессиональной работы.

Соискатели также находятся в зоне риска. Отчет указывает, что генеративный ИИ значительно упростил для мошенников создание фальшивых объявлений на платформах поиска работы. Преступники используют украденные данные для создания фейковых профилей, публикуют поддельные вакансии с автоматически сгенерированными описаниями и проводят фишинговые рассылки с помощью ИИ.

ИИ-генерируемые собеседования и автоматические письма повышают достоверность таких мошеннических схем, делая их сложнее для выявления.

В отчете говорится: «Мошенники часто запрашивают личную информацию — резюме или даже банковские реквизиты — под предлогом проверки данных соискателя».

Основные признаки мошенничества включают нежданные предложения о работе, просьбы об оплате и общение через неформальные каналы, такие как текстовые сообщения или WhatsApp.

Поскольку мошеннические схемы продолжают эволюционировать, осведомленность пользователей остается критически важной. Microsoft советует: