Обнаружен всплеск ИИ-мошенничества перед праздничным сезоном: Ритейлеры сталкиваются с тысячами фейковых звонков в день
Треть попыток мошенничества, направленных на крупных ритейлеров, сегодня создаётся с помощью ИИ, оценивает компания Pindrop, специализирующаяся на обнаружении дипфейков. Перед началом праздничного сезона это становится особенно заметно: злоумышленники используют синтетические голоса и автоматизированные звонки, чтобы обмануть операторов колл-центров и получить возврат денег за «утерянные» заказы.
По словам главы Pindrop Виджая Баласубраманиана, схема выглядит просто: обученный бот звонит в службу поддержки, представляется покупателем, сообщает номер заказа и просит вернуть средства. В одном из примеров, который компания предоставила журналистам, синтетический голос звучал неровно и даже пропускал вопросы оператора. Но бот знал номер реального заказа, имя клиента и последние цифры телефона — и этого хватило, чтобы запрос приняли как подлинный.
Крупнейшие ритейлеры фиксируют до тысячи подобных звонков в день. ИИ-боты перебирают контактные центры по всему миру, ищут уязвимые точки и запрашивают возвраты там, где контроль слабее. Ущерб от одной успешной атаки может достигать тысяч долларов.
Дипфейки уже стали частью широкого набора инструментов в руках злоумышленников. Известны случаи, когда северокорейские группы маскировали лица и голоса кандидатов на собеседованиях в крупных компаниях, а ФБР предупреждало о попытках выдавать себя за высокопоставленных чиновников США.
На потребительский рынок давление тоже растёт: в соцсетях распространяются фальшивые видеоролики с «участием» знаменитостей, рекомендующих товары или якобы представляющих известные магазины. По данным McAfee, среди наиболее часто подделываемых брендов в этом сезоне — Apple, Amazon и несколько люксовых марок.
Эксперты ожидают, что качество подобных инструментов будет только расти. Алгоритмы учатся звучать естественнее, вести диалог и подстраиваться под вопросы — и делают это круглосуточно, без человеческого участия. Для ритейлеров это означает необходимость усиливать проверки, ограничивать автоматические возвраты и внедрять дополнительные методы аутентификации клиентов, иначе нагрузка на службы поддержки и финансовые риски будут продолжать увеличиваться.