Как ИИ защищает от фишинга, телефонных мошенников и аферистов на маркетплейсах

И почему искусственный интеллект иногда борется сам с собой.

Сегодня искусственный интеллект (ИИ) — один из ключевых инструментов борьбы с мошенниками. Компании внедряют ИИ, чтобы защитить активы, пользователей и репутацию. Но с развитием технологий злоумышленники тоже совершенствуют свои методы и превращают эту борьбу в настоящую технологическую гонку. Как ИИ справляется с вызовами и что нас ждёт в будущем — в этом тексте.

Содержание:

Искусственный интеллект занял центральное место в борьбе с финансовым мошенничеством благодаря способности в реальном времени анализировать большие массивы данных, выявлять подозрительные транзакции и предотвращать незаконные действия.

Одна из ключевых технологий в этой сфере — системы выявления аномалий. Эти решения на базе ИИ анализируют поведение клиентов и определяют отклонения от нормы. Например, если пользователь обычно совершает покупки только в одном регионе, но внезапно происходит транзакция в другой стране, система временно блокирует операцию, чтобы провести проверку. Такой подход позволяет предотвращать как мелкие мошенничества, так и крупные схемы.

В МГТУ им. Баумана совместно с ФНС России разработали ИИ-систему, которая помогает вычислять мошенников на основе анализа данных о компаниях.

Алгоритм анализирует юридическую информацию — например, записи в Едином государственном реестре юридических лиц. Особое внимание модель уделяет молодым компаниям, с даты регистрации которых прошло меньше 30 дней. Разработка находит аномалии и подозрительных контрагентов, а на выходе выдаёт список потенциально мошеннических ИНН.

SEON — это венгерская платформа, которая помогает компаниям выявлять и устранять потенциальные угрозы. Решение использует цифровое профилирование, иными словами, анализирует уникальные цифровые следы пользователей — информацию из социальных сетей и других открытых источников. Система позволяет банкам моментально выявлять подозрительные действия и аферы и блокировать мошенников ещё до завершения операции.

Клиенты SEON — преимущественно компании из банковской сферы и финтеха. Среди пользователей — банк Revolut, отделения которого работают в 39 странах. Использование данных SEON позволило Revolut повысить точность моделей предотвращения мошенничества на 2%. Такое улучшение может показаться незначительным, но в абсолютных числах речь идёт о миллионах долларов.

Этот британский инструмент на базе ИИ так же, как и SEON, ориентирован на предотвращение платёжного мошенничества. Greip в режиме реального времени анализирует транзакции и информацию о пользователе (например, местоположение и использование средств обхода блокировок), выявляет аномалии и блокирует подозрительные операции. Его основная аудитория — интернет-магазины, но инструмент подходит как для крупных компаний, так и для малого бизнеса, обеспечивает защиту от мошенников и минимизирует финансовые потери.

Фишинг — вид интернет-мошенничества, попытка злоумышленников получить конфиденциальную информацию, например пароли или данные кредитных карт. Особенность фишинга — обман пользователей с помощью социальной инженерии, через поддельные электронные письма или веб-сайты.

Один из методов борьбы с фишингом — фильтрация подозрительных сообщений. ИИ-алгоритмы анализируют содержание электронных писем, выявляют признаки фишинга — например, необычные ссылки, подозрительные вложения или аномальные запросы информации. В результате письмо попадает в спам или получает соответствующую пометку.

Кроме того, ИИ способен распознавать подозрительные паттерны речи, интонации и содержание бесед, что позволяет выявлять попытки мошенничества. Например, если система обнаруживает, что собеседник пытается выведать личные данные или склоняет к совершению финансовых операций, она предупреждает пользователя о возможной угрозе.

Британский мобильный оператор O2 представил нейросетевого агента по имени dAIsy, который имитирует голос пожилой женщины и отвечает на подозрительные звонки. dAIsy удерживает мошенников на линии как можно дольше и тем самым защищает от них потенциальных жертв. Средняя продолжительность таких разговоров — около 40 минут, после чего злоумышленники обычно отключаются в раздражении.

Российский оператор «Т-Мобайл» внедрил технологию «Нейрощит», которая вычисляет мошенников прямо во время разговора. Алгоритмы проверяют номера, которые есть в телефонных книгах пользователей (если те дали доступ к списку контактов), анализируют историю звонков конкретного абонента, ищут подменные номера.

Кроме того, модель слушает разговор и ищет в нём ключевые слова и выражения вроде просьбы назвать код из СМС. Неважно, какова цель: получить доступ к банковскому приложению или взломать «Госуслуги» — мошенники пользуются схожими схемами, которые нейросеть эффективно выявляет. В результате звонок либо не проходит вовсе, либо обрывается силами оператора в течение 20–40 секунд.

В 2024 году «Т-Банк» открыл для абонентов доступ к фрод-рулетке «Ловушка для мошенников» (фрод: от англ. fraud — «мошенничество», «обман»). В ней пользователи добровольно отвечают, когда звонят мошенники, и тратят их время — чтобы злоумышленники не успели обмануть кого-то ещё.

Это аналоги «Нейрощита» против мошенников в исполнении «Сбер Мобайл».

«Хранитель» анализирует номер абонента, фильтрует вредоносные звонки и блокирует телефоны мошенников. Вызовы, которые удовлетворяют критериям мошенничества лишь частично, попадают в спам — их можно прослушать позже в автоответчике.

«Аура» анализирует сам разговор. Искусственный интеллект ищет признаки мошенничества — и при их обнаружении оповещает пользователя прямо во время беседы.

Приложение Kaspersky Who Calls использует ИИ-алгоритмы, чтобы определять входящие звонки («полезный звонок», «звонок из банка», «спам») и выявлять подозрительные вызовы. Система анализирует данные о звонках, а также информацию от других пользователей — всё, чтобы предупредить абонента о возможных попытках социальной инженерии и заблокировать номера мошенников.

Одно из ключевых направлений применения ИИ в электронной коммерции — обнаружение фальшивых товаров и недобросовестных продавцов. Алгоритмы машинного обучения анализируют описания товаров, изображения, ценовые аномалии и поведение продавцов, чтобы выявлять несоответствия и потенциальные признаки подделок.

Также ИИ используется для анализа отзывов и рейтингов. Мошенники создают фальшивые отзывы, чтобы повысить рейтинг своих товаров или, наоборот, понизить репутацию конкурентов. Алгоритмы ИИ анализируют стиль написания, частоту публикаций и другие параметры, чтобы выявлять махинации. Внедрение подобного решения от «Сбера» на маркетплейсе Wildberries помогло за первые две недели тестирования спасти несколько миллионов рублей клиентов.

Sift — это американская платформа для предотвращения мошенничества на основе искусственного интеллекта, которая обеспечивает цифровую безопасность для ведущих мировых компаний, например сервиса доставки еды Doordash. Она использует машинное обучение и анализ поведения пользователей для выявления взломанных аккаунтов, мошенничества с оплатами и вредоносного спама.

Adfonic (бывшая Byyd) — это продвинутая британская платформа для предотвращения мошенничества с кликами и переходами в онлайн-рекламе. Она помогает компаниям и рекламодателям защитить свои рекламные бюджеты от мошеннических кликов. ИИ определяет и блокирует недействительный трафик, что экономит средства и улучшает результаты рекламных кампаний.

Среди партнёров Adfonic — крупные социальные сети: Instagram и Facebook (принадлежат признанной экстремистской Meta), YouTube и TikTok.

Уже сегодня фокус разработчиков смещается в сторону проактивного предотвращения угроз — иными словами, ИИ развивается от реагирующего подхода к опережающему. Вместо того чтобы ожидать атаку, системы сканируют даркнет, анализируют открытые данные об утечках и находят угрозы ещё до их реализации.

Другой важный тренд — объяснимый ИИ (XAI, explainable AI). Отличие от традиционных моделей в том, что нейросеть позволяет пошагово отследить свой «ход мысли». Таким образом, пользователи понимают, почему ИИ принял определённое решение, это важно в финансовой сфере и при оценке кредитоспособности.

ИИ продолжает трансформировать сферу безопасности — и уже ловит мошенников в интернете и по телефону эффективнее, чем когда-либо. Однако злоумышленники находят новые способы украсть данные или деньги.

Что делают мошенники:

Для борьбы с дипфейками применяются ИИ-системы, которые анализируют медиаконтент и выявляют признаки искусственной генерации — аномалии в мимике, несоответствия в синхронизации звука и изображения или артефакты обработки. Подобную технологию «Сбер» запатентовал ещё в 2022 году, а с 2024-го продолжил её развитие в сотрудничестве с МВД.

Несмотря на успехи, некоторые эксперты считают, что пока ИИ не способен со 100%-ной эффективностью распознавать обман. Поэтому пользователям важно проявлять бдительность и бережно относиться к личной информации.

А как вы думаете, смогут ли ИИ-системы полностью избавить нас от мошенников в будущем? Или это бесконечная гонка?