Дипфейк

Во все времена находились люди, которые придумывали изощренные мошеннические схемы.

Примеров много. Одной из самых известных афер была "долговая яма" или "долговая тюрьма" в Англии 16-17 веков. Бедняков заманивали в таверну, угощали «брагой» до нужной кондиции, а затем предъявляли счет, оплатить который они не могли. За долги их сажали в тюрьму при таверне. Выбраться оттуда можно было, лишь отработав долг или заплатив огромный штраф.

В 18 веке во Франции процветал другой вид аферы. Мошенники продавали якобы древнюю античную вазу, сделанную из терракоты времен Древнего Рима. На деле ваза была всего лишь искусной подделкой, изготовленной современным гончаром. Аферисты для верности обставляли продажу подлинными историческими подробностями, а доверчивые коллекционеры антиквариата «попадались на удочку».

В 1980-х годах пользовалась успехом схема "Нигерийские письма". Аферисты рассылали запросы от имени якобы представителей нигерийской элиты с просьбой помочь вывезти крупную сумму денег за границу. Для этого просили отправить небольшой аванс для "оплаты пошлин", обещая крупные комиссионные. Жертвы переводили деньги, но естественно никаких дивидендов не получали.

Время шло, но суть человека не менялась…

Появились передовые ИИ-технологии, которыми тут же воспользовались преступники. Одним из наиболее эффективных способов выманить большие деньги у банков и проворачивать политические махинации стало использование дипфейков. Изначально они создавались для демонстрации достижений в развитии искусственного интеллекта и создания развлекательных видео и аудиоматериалов.

Так, преступники могут генерировать голос с соответствующим контекстом и совмещать его с видео нужного человека. Дипфейки легко создаются в сервисах на базе ИИ, а потому не верьте ни ушам своим...ни глазам. Чтобы сохранить деньги, в первую очередь, позвоните владельцу аккаунта по телефону.

Сфера применения дипфейков расширяется с каждым днём. Мошенники не только воруют деньги и компроментируют обычных людей. Они добрались и до политтехнологий. Поддельные аудио и видео с голосами и внешностью реальных политиков начали использовать и в предвыборных кампаниях.

Например, в январе этого года, в США, в Нью-Гемпшире, за неделю до проведения праймериз, начался обзвон по телефону части населения с призывом не участвовать в предварительных выборах. В трубке звучал голос президента США Джозефа Байдена. Многие поверили. Фальшивый звук и текст были сгенерированы нейросетями.

В последнее время всё чаще раскрываются крупные преступления, совершенные с помощью ИИ. В большинстве случаев мошенники подделывают голоса руководителей компаний и требуют у подчиненных перевести крупные суммы денег на сторонние счета. Убытки исчисляются миллионами долларов.

В 2019-м сотрудник британской энергетической компании получил звонок от начальника, в котором тот поручил вывести 220 000 евро на счет другой организации. Человек поверил и отправил средства. Он насторожился лишь при повторном звонке «директора», когда тот потребовал перевести еще одну сумму. Расследование показало, что преступники воссоздали голос руководителя компании, подделав не только интонации и темп речи, но даже его немецкий акцент.

Понятно, что мошенничество существовало всегда, просто с развитием технологий методы обмана становятся все более изощренными. Частое использование этих систем аферистами вынуждает ИТ-компании создавать новые более совершенные ресурсы способные анализировать дипфейки и определять подделку.

P.S.

Про дальнейшее использование дипфейков и нейросетей читайте в телеграм-канале AIUI.

Подписывайтесь на блог и да пребудут с вами нейросети!