Перехитрить мошенника - использование фальшивых ИИ персонажей для разрушения бизнес-модели скам звонков

Эксперты по кибербезопасности Университета Маккуори изобрели многоязычного чат-бота, предназначенного для того, чтобы держать мошенников на длинных фальшивых звонках и сократить денежные потери реальных людей.

Система Apate, названная в честь греческой богини обмана, будет «обманывать мошенников», используя убедительные синтетические голоса для ведения разговоров с реальными мошенниками.

Идея пришла в голову профессору Каафару во время обеда с семьей, когда позвонил мошенник. Он притворялся, заставлял своих детей смеяться и держал мошенника на линии в течение 40 минут.

«Я понял, что, хотя я потратил время мошенника, чтобы они не могли добраться до уязвимых людей, в этом был смысл — это также были 40 минут моей собственной жизни, которые я не верну», — говорит профессор Дали.

«Затем я начал думать о том, как мы могли бы автоматизировать весь процесс и использовать обработку естественного языка для разработки компьютеризированного чат-бота, который мог бы вести правдоподобный разговор с мошенником», — говорит он.

Профессор Каафар говорит, что у его команды теперь есть патенты на эту высокоэффективную технологию.

«Мы воодушевлены тем, что эта новая технология может активно сломать бизнес-модель мошеннических звонков и сделать ее убыточной», — говорит он.

Профессор Каафар говорит, что, несмотря на то, что телекоммуникационные провайдеры заблокировали более полумиллиарда мошеннических звонков с 2020 года, австралийцы по-прежнему наводнены этими звонками, и крошечная часть, которая проходит, может нанести ущерб жертвам.

По его словам, телефонное мошенничество растет во всем мире по нескольким причинам.

Такие технологии, как протокол передачи голоса через Интернет (VOIP) , позволяют киберпреступникам легко и дешево маскировать свое местоположение, притворяясь, что звонят с любого номера.

Между тем, на технологическом фронте трудно и дорого обновлять телекоммуникационную инфраструктуру и протоколы для улучшения аутентификации вызовов.

«С финансовой точки зрения это высокий коэффициент прибыли и низких затрат для мошенников, эта практика очень прибыльна и представляет собой деятельность с относительно низким уровнем риска, и жертвам довольно сложно вернуть эти деньги».

«Бизнес-модель мошенников основана на получении большой прибыли от небольшого количества жертв; лишь небольшой процент из тысяч звонков, которые они делают каждую неделю, успешны», — говорит профессор Каафар.

«Наша модель связывает их, тратит их время и сокращает количество успешных афер», — говорит он. «Мы можем нарушить их бизнес-модель и значительно затруднить им зарабатывание денег».

Команда из Центра кибербезопасности Университета Маккуори начала с анализа мошеннических телефонных звонков и определения методов социальной инженерии, которые мошенники используют на своих жертвах, используя методы машинного обучения и обработки естественного языка для выявления типичных мошеннических «сценариев».

Затем они обучили чат-ботов на наборе данных реальных мошеннических разговоров, от записей мошеннических звонков до расшифровок мошеннических электронных писем и журналов чатов с платформ социальных сетей, чтобы бот мог генерировать свои собственные разговоры, напоминающие реальные мошеннические звонки.

Профессор Каафар говорит, что достижения в области обработки естественного языка (NLP) и клонирования человеческого голоса с помощью ИИ позволили им разработать агентов ИИ, способных свободно говорить и способных принять определенный образ и не сбиться с пути в разговоре, будучи убедительно последовательными в своих ответах.

«Разработанные нами разговорные боты с искусственным интеллектом могут обмануть мошенников, заставив их думать, что они разговаривают с жизнеспособными жертвами мошенничества, поэтому они тратят время на попытки обмануть ботов», — говорит профессор Каафар.

Эти боты могут быть обучены на любом языке или с любым акцентом, и, поскольку телефонное мошенничество является глобальной проблемой, эта технология может быть развернута в любой точке мира.

В настоящее время команда тестирует чат-ботов на мошеннических звонках в реальном времени, перенаправляя звонки, предназначенные для жертв, на их тестовый прототип, «всегда включенную приманку» с широким спектром персонажей.

«Мы разместили эти «грязные» номера по всему Интернету, поместив их в некоторые спам-приложения или опубликовав их на веб-страницах и так далее, чтобы повысить вероятность получения мошеннических звонков», — говорит профессор Каафар.

«Мы обнаружили, что боты довольно хорошо реагируют на некоторые сложные ситуации, которые мы не ожидали, когда мошенники запрашивают информацию, для которой мы не обучали ботов, но боты адаптируются и придумывают очень правдоподобные ответы.

«Боты постоянно учатся затягивать звонки, чтобы достичь своей основной цели: дольше удерживать мошенников на линии. «

Боты для борьбы с мошенничеством также вносят свой вклад в анализ угроз — своевременную информацию, которая собирается о текущем телефонном мошенничестве и его целях; Это помогает таким организациям, как крупные банки, розничные торговцы и государственные органы, предупреждать клиентов.

Профессор Каафар говорит, что команда ведет переговоры с рядом поставщиков телекоммуникационных услуг и говорит, что они открыты для ряда коммерческих партнерств.

«Партнерство с поставщиками услуг связи станет ключом к тому, чтобы сделать это действительно эффективным», — говорит профессор Каафар.

«Мы считаем, что это имеет огромный потенциал во всем мире; если мы сможем перенаправить многие из тех спам-звонков, которые провайдеры в настоящее время блокируют, и отправить мошенников ботам Apate, связывая их время настолько, насколько это возможно, вся отрасль больше не будет жизнеспособной.

«Я предполагаю, что окончательный метасценарий может привести к тому, что мошенники сами внедрят ИИ, обучая своих собственных мошеннических чат-ботов, которые затем перенаправляются на общение с чат-ботами, принадлежащими поставщикам телекоммуникационных услуг.

«Если мошеннические чат-боты в конечном итоге разговаривают с чат-ботами, защищающими мошенничество, вместо того, чтобы красть деньги у реальных людей, я бы воспринял это как большую победу».