Почему дипфейки повсюду? Можно ли их остановить?

8 февраля Федеральная комиссия по связи США запретила компаниям использовать голоса, сгенерированные искусственным интеллектом, в звонках роботов. В настоящее время в США нет федерального закона, запрещающего дипфейки. В некоторых штатах приняты законы, касающиеся дипфейковой порнографии, но их применение по всей стране непоследовательно, что затрудняет привлечение жертв к ответственности создателей. Предлагаемый Закон Европейского Союза об искусственном интеллекте потребует от платформ маркировать дипфейки как таковые.

В конце января в социальных сетях широко распространялись откровенные фейковые изображения поп-звезды Тейлор Свифт , вызвав гнев легионов ее поклонников. Ранее в том же месяце Сочитль Гомес, 17-летняя актриса из сериала Marvel, рассказала о том, что обнаружила в социальных сетях откровенно сексуальные фейки с ее лицом и не смогла удалить материал.

Они часто создаются с использованием алгоритма искусственного интеллекта, который обучен распознавать закономерности в реальных видеозаписях конкретного человека — процесс, известный как глубокое обучение. Тогда можно будет заменить элемент одного видео, например лицо человека, на другой фрагмент контента, при этом он не будет выглядеть как грубый монтаж.

Первоначально эта технология была прерогативой ученых и исследователей. Однако в 2017 году издание Vice сообщило, что пользователь Reddit под ником deepfakes разработал алгоритм создания фейковых видео с использованием открытого исходного кода. Reddit забанил пользователя, но практика распространилась. Изначально для создания дипфейков требовалось уже существующее видео, настоящее вокальное исполнение и хорошие навыки монтажа. Сегодняшние генеративные системы искусственного интеллекта позволяют пользователям создавать убедительные изображения и видео на основе простых письменных подсказок.

Китайские тролли распространили сфабрикованные изображения августовских лесных пожаров на гавайском острове Мауи, чтобы поддержать утверждение о том, что они были вызваны секретным «погодным оружием», которое испытывают США. В мае 2023 года американские акции ненадолго упали после того, как в Интернете распространилось изображение, на котором видно, что Пентагон горит.

Есть опасение, что дипфейки в конечном итоге станут настолько убедительными, что будет невозможно отличить настоящее от вымышленного. Представьте себе мошенников, манипулирующих ценами акций, производящих фальшивые видео, на которых руководители компаний выпускают корпоративные новости, или фальсифицированные видео, на которых солдаты совершают военные преступления. Политики, бизнес-лидеры и знаменитости подвергаются особому риску, учитывая, как много их записей доступно. Эта технология делает возможной так называемую порноместь, даже если не существует реальных фотографий или видео в обнаженном виде, при этом жертвами обычно становятся женщины. Если видео становится вирусным в Интернете, его практически невозможно сдержать.

Машинное обучение, создающее дипфейки, нелегко обратить вспять и обнаружить их. Но несколько стартапов, таких как Sensity AI из Нидерландов и Sentinel из Эстонии, разрабатывают технологии обнаружения, как и многие крупные технологические компании. В ноябре 2022 года корпорация Intel выпустила продукт FakeCatcher, который, по ее словам, может обнаруживать фальшивое видео с точностью 96%, наблюдая за тонкими изменениями цвета на коже субъекта, вызванными кровотоком. Компании, включая Microsoft Corp., обязались вставлять цифровые водяные знаки в изображения, созданные с помощью инструментов искусственного интеллекта, чтобы отличать их от поддельных.

https://t.me/ejournal_channel Больше интересного контента