Топ-10 скандалов с участием нейросетей

Искусственный интеллект постоянно поражает нас своими возможностями, но иногда он оказывается в центре громких скандалов. От политических манипуляций до злоумышленного использования в киберпреступности — вот десять наиболее громких скандалов с участием ИИ.

1. 25 миллионов долларов украдено с помощью дипфейков в Гонконге: В начале 2024 года мошенники использовали дипфейк технологию для имитации лиц важных финансовых директоров во время видеоконференций, что привело к переводу огромных сумм денег.

2. Женщина в Пенсильвании (США) создавала фальшивые компрометирующие фото и видео соперников своей дочери, чтобы исключить их из спортивной команды.

3. Том Круз и дипфейки в TikTok: В 2021 году в TikTok появились дипфейк видео с Томом Крузом, которые вызвали сумятицу среди пользователей. На этих клипах Круз якобы занимался простейшими вещами — играл в гольф, сосал леденцы и даже показывал фокусы, и это выглядело удивительно реалистично. Аккаунт, ответственный за эти клипы, назывался DeepTomCruise и не скрывал, что видео были ненастоящими. Тем не менее, из-за высокого качества дипфейков, многие зрители сначала не поверили, что это подделка.

4. Киберпреступники украли 240 000 долларов у директора компании — в марте 2019 года, используя нейросети для имитации голоса, мошенники обманули директора британской энергетической компании, заставив его перевести крупную сумму денег на их счета.

5. Фальшивое видео с пьяной Нэнси Пелоси — в мае 2019 года в сети появилась видеозапись известной американской женщины-политика Ненси Пелоси, на котором она присутствовала на мероприятии в состоянии сильного алкогольного опьянения. Распространенное видео вызвало широкий общественный резонанс и дебаты о дезинформации в политической сфере.

6. Мистер Бист на YouTube: В октябре 2023 года мошенники использовали дипфейк популярного ютубера Мистера Биста для обмана людей, убеждая их купить iPhone по сниженной цене, а затем воровали их денежные средства.

7. Тейлор Свифт и несанкционированные изображения: В 2024 году в сети появились порнографические изображения Тейлор Свифт, созданные с помощью ИИ, что вызвало широкое обсуждение и критику. Эти изображения успели быстро разлететься по интернету, прежде чем аккаунт, ответственный за их распространение, был заблокирован. Свифт рассматривает возможность судебного иска против создателей этих изображений.

8. Пирс Морган и Опра Уинфри в рекламе: В 2024 году Пирс Морган и Опра Уинфри оказались вовлечены в скандал с дипфейк-рекламой, когда их изображения были использованы без их согласия для продвижения сомнительных курсов самопомощи. Эта реклама была размещена на таких платформах, как YouTube, Facebook и Instagram.

9. Том Хэнкс рекламирует товары: В октябре 2024 года Том Хэнкс оказался втянутым в скандал с использованием дипфейк-технологий, когда его образ был использован без разрешения в обманчивой рекламной кампании для продвижения различных продуктов и услуг. Создатели рекламы не только не получили согласие Хэнкса на использование его образа, но и представили его в контексте, который мог вводить потребителей в заблуждение относительно его отношения к рекламируемым продуктам.

10. Брюс Уиллис и МегаФон: В 2021 году российская телекоммуникационная компания МегаФон использовала дипфейк технологию для создания рекламного ролика с Брюсом Уиллисом. Компания получила разрешение от актера на использование его образа, однако это событие запустило обсуждения об этических и правовых аспектах использования образов знаменитостей в рекламных и других коммерческих целях.

После этой экскурсии в дикий мир ИИ и дипфейков становится понятно: современные технологии можно использовать как на пользу, так и во вред, и только от человека зависит, что именно он будет делать с этим инструментом. Злоумышленники пользуются тем, что законы в отношении применения ИИ еще не написаны и только начинают формулироваться в большинстве стран. Это и объясняет обилие скандалов — мошенники стараются успеть нажиться на своих схемах до того, как “дыры” в законодательстве будут устранены.