Иммерсивное шоу 2021: как с помощью дипфейка стать CEO Dbrain Димой Мацкевичем

В конце 2020 года форекс-брокер создал дипфейк CEO Dbrain Димы Мацкевича и теперь от его имени продает финансовые услуги. Это история о том, насколько современным бывает цифровой фрод.

Благодаря ей мы стали частью иммерсивного шоу, в котором будущее ИИ уже наступило, понятие личности размывается, а любой человек может оказаться в рекламе сомнительных услуг.

Перед Новым годом в ленте друзей Димы Мацкевича на фейсбуке появился рекламный ролик. В нем очень похожий на Диму человек предлагает «с минимальными вложениями начать зарабатывать до 360% годовых». На самом деле мы делаем нейросети для автоматической обработки документов — это круче форексов, убедитесь сами.

Видео рассылается с фейкового аккаунта Dbrain и выглядит так:

Ролик создан с помощью дипфейка (deepfake), — нейросети, которая подставляет лицо выбранного человека в видео с максимальной реалистичностью. ИИ сначала анализирует видео и фотографии с участием конкретного человека, а затем генерирует аудиодорожку и создает ролик таким образом, чтобы движения губ соответствовали тому, что говорит человек.

Дипфейк-фрод — новая реальность. Программисты со сравнительно небольшим опытом работы с алгоритмами уже могу подделывать видео с известными предпринимателями, инфлюенсерами и политиками. Например, здесь бывший президент США Барака Обамы называет деятельность Дональда Трампа «полным провалом». Конечно, на самом деле Обама таких заявлений не делал.

Видео с Димой Мацкевичем создано похожим образом: мошенники обучили алгоритм на основе фотографий и видео с его участием, а затем записали нужную звуковую дорожку и запустили рекламу.

Кроме короткого ролика, авторы фрода сняли получасовой вебинар. Его ведет дипфейк Димы, который находится в кадре почти пять минут — выглядит это действительно круто. Артефакты на видео почти незаметны — даже типаж человека, который стал прототипом Мацкевича, подобран верно:

Дипфейк в виде рекламного ролика рассылался среди друзей Мацкевича в фейсбуке и инстаграме. Мы получили несколько десятков комментариев. Вот как выглядели некоторые из них:

Работа сделана аккуратно и качественно: рекламу видела аудитория, которая знает и Диму, и Dbrain. Мы сожалеем, если кто-то потерял деньги, но у этого кейса есть и светлая сторона. Он учит нас, что доверие к персоне перестало быть стимулом к принятию решения — теперь от имени известного человека может говорить кто угодно.

Авторы дипфейка постарались, чтобы привлечь внимание к Dbrain. Ответим тем же — людей, которые столь успешно рекламируют искусственный интеллект, нужно знать в лицо.

Все, что нам удалось выяснить, указывает на брокера Barclay Stone.

Бренд Barcly Stone зарегистрирован в Великобритании 12 марта 2020 года — в тот же день компания купила домен на REG.ru и начала работать в России. Судя по информации на сайте, брокер оказывает финансовые услуги от лица Barcly Stone LTD, офшора, зарегистрированного на острове Сент-Люсия. Платежным агентом выступает британская ZEX SYSTEM LTD — ей владеют гражданин Украины Виктор Парченко и гражданин Молдовы Николай Гавриленко. При этом Гавриленко отошел от управления компанией. У Barcly Stone и ее структур нет лицензии на оказание финансовых услуг.

В июне платформа переехала на новый домен. Осенью связанные с ней структуры зарегистрировали сайт «Яндекс.Капитал». В разделе «О компании» говорится, что она появилась в результате покупки «Яндексом» контрольного пакета акций TCS Group, владельца «Тинькофф.Банк». На самом деле сделки между компаниями не было.

На сайте «Яндекс.Капитала» сказано, что для создания компании привлекались ведущие специалисты Barclay Stone. «Яндекс» никогда не сообщал о запуске «Яндекс.Капитала» ни в СМИ, ни на своем сайте или в пресс-релизах. На сайте проекта множество орфографических и грамматических ошибок — вряд компания такого масштаба может допустить подобное.

Сначала Barclay Stone заинтересовался Димой Мацкевичем (в рекламе «Яндекс.Капитала» он представлен как «ведущий специалист и руководитель» проекта), а затем запустил шоу с его участием от имени Dbrain.

Кроме роликов, брокер создал сайт dbrainweb.com (зарегистрирован 21 декабря 2020 года) и указал себя в качестве партнера. Немного жаль, но мы даже не знакомы, а тем более не заключали никаких соглашений с компанией.

Бонус: у компании есть блог на vc. В одной из статей говорится, что отзывы — важный маркетинговый инструмент. У статьи 81 комментарий — их оставили пользователи, которые зарегистрировались в тот же день и больше ничего не комментировали.

Barclay Stone показал, на что способен искусственный интеллект, и помог нам всем ненадолго оказаться в будущем, где дипфейки — обычное дело. Мы запаслись попкорном и ждем, чем закончится эта история.

Пользуясь случаем, напомним, чем занимается Dbrain. Мы делаем нейросети для автоматической обработки документов — паспортов, СНИЛС, ПТС и многих других. Наши алгоритмы, классифицируют, выравнивают и распознают печатный и рукописный текст.

Дипфейки мы не делаем — смело обращайтесь!