Как «дипфейк Илона Маска» стал крупнейшим интернет-мошенником

Версия Илона Маска, созданная с помощью ИИ, появилась в тысячах фальшивых рекламных объявлений, что привело к мошенничеству на миллиарды долларов.

Стив Бошан всего лишь хотел заработать деньги для своей семьи. И он думал, что Илон Маск мог бы ему помочь.

82-летний пенсионер, мистер Бошан, в конце прошлого года увидел видео, на котором Илон Маск поддерживал радикальную инвестиционную возможность, обещавшую быстрые доходы. Он связался с компанией, стоящей за этим предложением, и открыл счет на сумму 248 долларов. В течение нескольких недель, через серию транзакций, мистер Бошан полностью опустошил свой пенсионный счет, в итоге вложив более $690 000.

Затем деньги исчезли — потеряны из-за цифровых мошенников, находящихся на передовой новой преступной деятельности, основанной на искусственном интеллекте.

Мошенники отредактировали подлинное интервью с Илоном Маском, заменив его голос на подделку с помощью инструментов ИИ. Искусственный интеллект был достаточно сложным, чтобы изменить мельчайшие движения рта, синхронизировав их с новым текстом, который они написали для цифровой подделки. Для случайного зрителя эта манипуляция могла быть незаметной.

«Ну, его изображение — это был он», — сказал мистер Бошан о видео, которое он видел с участием Маска. «Теперь, был ли это ИИ, заставивший его говорить то, что он говорил, я действительно не знаю. Но если говорить об изображении, если бы кто-то сказал: "Выбери его из ряда людей," — это был бы он».

Тысячи подобных видео, созданных с помощью ИИ, известных как дипфейки, наводнили интернет в последние месяцы, представляя поддельные версии Илона Маска, обманывающие множество потенциальных инвесторов. По оценкам Deloitte, дипфейки, управляемые ИИ, будут способствовать потерям от мошенничества на миллиарды долларов ежегодно.

Создание таких видео стоит всего несколько долларов и занимает считанные минуты. Они продвигаются в социальных сетях, включая платные объявления на Facebook, что увеличивает их охват.

«Это, вероятно, самый крупный мошеннический скандал, основанный на дипфейках», — сказал Франческо Кавалли, соучредитель и глава отдела анализа угроз в компании Sensity, которая занимается мониторингом и обнаружением дипфейков.

Видео часто поразительно реалистичны, захватывая характерную манеру речи и южноафриканский акцент Маска.

Мошенники начинают с подлинного видео, например, с этого интервью для The Wall Street Journal, проведенного Торольдом Баркером, редактором, чей голос также звучит в этом клипе.

Движения рта Маска редактируются с помощью технологии синхронизации губ, которая изменяет способ, которым кто-то говорит. Мошенники добавляют голос, сгенерированный искусственным интеллектом, используя инструменты для клонирования голоса, которые копируют любой голос на основе образцов из аудиозаписей.

Итоговая реклама, которая может включать поддельные графики, имитирующие новостные организации, может быть весьма убедительной для обычных пользователей интернета.

По данным компании Sensity, которая проанализировала более 2000 дипфейков, Илон Маск был самым распространенным «лицом» в этих видео.

Маск фигурировал почти в четверти всех дипфейковых мошенничеств с конца прошлого года. Среди тех, которые были ориентированы на криптовалюты, он появлялся почти в 90% видео.

В дипфейковых рекламах также фигурировали Уоррен Баффетт, известный инвестор, Джефф Безос, основатель Amazon, и другие.

Илон Маск не ответил на запросы для комментария.

Трудно точно подсчитать, сколько дипфейков циркулирует в сети, но поиск в библиотеке рекламных объявлений Facebook по часто используемым фразам, рекламирующим мошенничества, выявил сотни тысяч объявлений, многие из которых включали дипфейковые видео. Хотя Facebook уже удалил многие из них за нарушение своих политик и деактивировал некоторые из ответственных за это аккаунты, другие видео остались в сети, и каждый день, казалось, появлялись новые.

YouTube также был наводнен подделками, часто с маркировкой, которая предполагает, что видео идет «в прямом эфире». На самом деле, это предварительно записанные дипфейки.

После того как бывший президент Дональд Трамп выступил на конференции по биткоину в субботу, на YouTube появилось множество видео с маркировкой «в прямом эфире», в которых была показана предварительно записанная дипфейковая версия Илона Маска, заявляющего, что он лично удвоит любую криптовалюту, отправленную на его счет. Некоторые из этих видео собрали сотни тысяч зрителей, хотя YouTube отметил, что мошенники могут использовать ботов для искусственного увеличения числа просмотров.

Согласно отчету с Better Business Bureau, некоммерческой организации по защите прав потребителей, один житель Техаса сообщил, что потерял биткоинов на сумму $36 000 после того, как в феврале 2023 года увидел «имитацию» Илона Маска, говорящего "прямом эфире" на YouTube.

«Я отправил свои биткоины и ничего не получил взамен», — написал человек.

YouTube заявил в своем заявлении, что с января по март этого года удалил более 15,7 миллиона каналов и более 8,2 миллиона видео за нарушение своих правил, большинство из которых были связаны с политикой против спама.

Распространенность фальшивых рекламных объявлений побудила австралийского миллиардера Эндрю Форреста, чьи видео также использовались для создания дипфейковых объявлений на Facebook, подать гражданский иск против компании Meta, материнской компании Facebook, за халатность в управлении рекламным бизнесом. Он утверждал, что рекламный бизнес Facebook заманивает «невинных пользователей в плохие инвестиции».

Meta, которой принадлежит Facebook, заявила, что компания обучает автоматизированные системы обнаружения для борьбы с мошенничеством на своей платформе, но также описала ситуацию как игру в кошки-мышки, где хорошо финансируемые мошенники постоянно меняют свои тактики, чтобы избежать обнаружения.

YouTube указал на свои правила, запрещающие мошенничество и манипулируемые видео. В марте компания ввела требование, чтобы создатели контента раскрывали использование ИИ для создания реалистичного контента.

Интернет сейчас наводнен подобными сообщениями от людей, которые потеряли тысячи долларов, а некоторые — все свои сбережения. В мае Комиссия по ценным бумагам и фьючерсам Гонконга выпустила предупреждение о мошенничествах с участием Илона Маска. Ранее в этом году Федеральная торговая комиссия и Федеральное бюро расследований США предупредили американцев о росте киберпреступности и дипфейковых мошенничеств, использующих ИИ.

«Преступники используют ИИ как средство усиления, что делает кибератаки и другую преступную деятельность более эффективными и труднее обнаруживаемыми», — заявило ФБР в электронном письме.

Цифровые мошенничества существуют с самого начала интернета. Однако новая волна дипфейков с участием Илона Маска появилась в прошлом году после того, как в публичный доступ были выпущены сложные инструменты ИИ, позволяющие любому клонировать голоса знаменитостей или манипулировать видео с пугающей точностью. Порнографы, создатели мемов и, в возрастающей степени, мошенники обратили на это внимание.

«Ситуация меняется, потому что организованная преступность поняла: "Мы можем на этом заработать"», — говорит Лу Стейнберг, основатель CTM Insights, исследовательской лаборатории по кибербезопасности. «Поэтому мы будем видеть все больше и больше таких фальшивых попыток отделить вас от ваших денег».

Видео, созданные с помощью ИИ, далеки от совершенства. В некоторых видео Илон Маск может звучать роботизированно, а его рот не всегда совпадает с произносимыми словами. Но они кажутся достаточно убедительными для некоторых жертв мошенничества — и со временем становятся все лучше, говорят эксперты.

По словам мистера Кавалли из Sensity, создание таких видео стоит всего $10. Мошенники, в основном из Индии, России, Китая и Восточной Европы, собирают поддельные видео, используя смесь бесплатных и дешевых инструментов, за менее чем 10 минут.

«Это работает», — сказал мистер Кавалли. «Поэтому они будут продолжать усиливать кампанию, охватывая разные страны, переводя на несколько языков и постоянно распространяя мошенничество на все большее количество жертв».

Некоторые из этих мошенничеств часто рекламируют поддельное программное обеспечение на основе ИИ, утверждая, что оно может приносить невероятную прибыль от инвестиций. Жертвам предлагается сначала отправить небольшую сумму — около $250 — и их постепенно заманивают на большие инвестиции, утверждая, что первоначальная инвестиция увеличивается в стоимости.

В одном из видео, взятом с собрания акционеров Tesla, дипфейковый Илон Маск объясняет продукт для автоматической торговли на основе ИИ, который может удваивать вложения каждый день.

Эксперты, изучавшие криптовалютные сообщества, отмечают, что уникальная глобальная фан-база Илона Маска, состоящая из консерваторов, антиглобалистов и энтузиастов криптовалют, часто тянется к альтернативным способам заработка — что делает их идеальными целями для мошенничеств.

«Определенно существует группа людей, которая верит, что секрет богатства скрывают от них», — говорит Молли Уайт, исследователь, изучавшая криптовалютные сообщества. Они думают, что «если они смогут найти этот секрет, то это все, что им нужно».

Мошенники часто нацеливаются на пожилых пользователей интернета, которые могут быть знакомы с криптовалютой, искусственным интеллектом или Илоном Маском, но не знакомы с самыми безопасными способами инвестирования.

«Пожилые люди всегда были очень уязвимой и прибыльной для мошенников группой», — сказал Финн Брантон, профессор исследований науки и технологий Калифорнийского университета в Дэвисе, который является экспертом в области криптовалютного рынка. Он добавил, что пожилые люди были мишенью для мошенничества задолго до того, как такие платформы, как Facebook, упростили мошенникам их обман.

Мистер Бошан, вдовец, который работал до 75 лет в качестве торгового представителя в компании в Онтарио, Канада, наткнулся на объявление вскоре после того, как присоединился к Facebook в 2023 году. Хотя он помнит, что видел это видео в прямом эфире на CNN, представительница CNN заявила, что Илон Маск не давал интервью в течение многих лет. (The New York Times не удалось найти видео, соответствующее описанию мистера Бошана, но он сказал, что его история почти идентична истории другой женщины, обманутой онлайн дипфейком Илона Маска.)

В декабре прошлого года он отправил $27 216 компании, называвшей себя Magna-FX, согласно переписке между мистером Бошаном и компанией, которой он поделился с The New York Times. Magna-FX создала видимость того, что его инвестиции увеличиваются в стоимости. В какой-то момент агент по продажам использовал программное обеспечение, чтобы взять под контроль компьютер мистера Бошана, перемещая средства, якобы инвестируя их.

Чтобы вывести деньги, мистеру Бошану сказали, что ему нужно оплатить административный сбор в размере $3 500 и комиссию в размере $3 500. Он отправил деньги, но ему сказали, что ему нужно заплатить $20 000, чтобы получить часть средств — около $200 000. Он заплатил и эту сумму.

Хотя мистер Бошан сообщил мошенникам, что исчерпал свои пенсионные сбережения, полностью использовал кредитные карты, взял кредитную линию и занял деньги у своей сестры, чтобы инвестировать и оплатить сборы, мошенники требовали еще больше. Они попросили его заплатить очередной сбор. Мистер Бошан обратился в полицию.

Большинство следов Magna-FX исчезли из сети, включая сайт компании, номер телефона и электронные адреса, которые использовали агенты, с которыми общался мистер Бошан. Другая компания с почти идентичным названием и рекламирующая аналогичные услуги не ответила на запросы о комментариях.

«Думаю, сейчас настало время назвать меня глупцом, идиотом и какими еще эпитетами вы можете придумать», — написал мистер Бошан в отчете, поданном в Better Business Bureau.

Мистер Бошан сообщил, что ему удается оплачивать счета, используя небольшой пенсионный счет, о котором он не сообщал мошенникам, а также за счет своих пенсий. Он планировал путешествовать по миру на пенсии.

Мистер Бошан подал заявление в местную полицию, но, по его словам, дело пока не сдвинулось с мертвой точки.

«Из-за большого количества мошенничеств, происходящих повсюду, мое дело оказалось в очереди», — сказал он. «Я не питаю больших надежд».