Дипфейк Тейлор Свифт всколыхнул всех, от пользователей Х до Белого дома
В этом кейсе весьма ярко отразились все проблемы, вызванные созданными с помощью искусственного интеллекта дипфейками, и сложности их решения. Я изучила ситуацию вокруг этого случая и делюсь этим с вами.
*** Пожалуйста, поставьте лайк моей публикации! ***
45000000
А недавние "безобидные" реалистичные фото горящей Эйфелевой башни в другой соцсети набрали 87 млн. просмотров за три дня.
Что произошло
Созданный ИИ дипфейк сексуального характера стал быстро распространяться в Х в прошлую среду и один из постов набрал свыше 45 млн. просмотров и более 24 тыс. репостов, прежде чем был удален.
Платформа реагировала медленно, и сообщение оставалось в сети около 17 часов. Позже изображения распространились на более мелкие аккаунты и до сих пор доступны на X. В некоторых регионах запрос «ИИ Тейлор Свифт» попал в тренды, тем самым продвигая изображения на еще более широкую аудиторию.
В X пообещали активно удалять запрещенный контент и отключили поиск по запроcу “Taylor Swift”. Политика X явно запрещает размещение такого рода контента на платформе. Хотя представители X не ответили на запросы медиа, X опубликовал публичное заявление почти через день после начала инцидента, но без упоминания конкретно изображений Свифт.
Ответственность за предотвращение распространения фейковых изображений часто ложится на социальные платформы.
ЕС уже расследует деятельность Х по обвинениям в «распространении незаконного контента и дезинформации». После обнаружения на платформе распространения дезинформации о войне между Израилем и Хамасом, компанию допрашивают относительно ее кризисных протоколов.
Фанаты Свифт раскритиковали X за медленную реакцию и в ответ отреагировали наводнением хэштегов, используемых для распространения настоящих клипов Свифт, чтобы "перебить" фейки.
Весьма примечательно, что история произошла с поп-звездой, чьи концерты в 2023 году принесли ВВП США $4,3 млрд по оценкам Bloomberg.
Что последовало?
Пресс-секретарь Белого дома Карин Жан-Пьер в пятницу заявила, что Белый Дом обеспокоен ситуацией, и необходимо принять закон, защищающий людей от фальшивых сексуальных изображений.
О ситуации с фейком также спросили СЕО Microsoft С.Наделла (подробнее о выдающемся CEO компании) во время интервью на NBC Nightly News, которое выйдет в следующий вторник. Он назвал ситуацию "тревожной и ужасной” и заявил, что это ответственность индустрии установить необходимые ограничения технологии.
У Наделлы неслучайно спросили об этом кейсе. В отчете 404 Media говорится, что изображения могли быть созданы в группе в Telegram, где пользователи делятся порно фото, созданными ИИ, зачастую созданными с помощью Microsoft Designer.
Designer теоретически отказывается создавать изображения известных людей, но его легко обмануть, внеся небольшие изменения в промпты. Хотя это и не доказывает, что для создания изображений Свифт использовался именно Designer, это тот технический недостаток, который Microsoft может устранить.
Позже в Microsoft подтвердили, что работают над тем, чтобы закрыть "лазейку" с возможностью генерации порно изображений реальных людей.
О чем это говорит?
Этот инцидент говорит об очень острой задаче остановить созданные ИИ дипфейк изображения реальных людей.
Действительно, о проблеме дипфейков говорят со всех сторон:
- В отчете “Global Risks Report 2024” ИИ-фейки стоят на втором месте, а в ближайшие два года по мнению экспертов, эта проблема выйдет на первое.
- Журнал Nature включил технологию противодействия дипфейкам в число 7 самых важных направлений исследований 2024 года.
А если просто запретить? (Поиск простого решения)
Инструменты ИИ значительно упростили процесс создания фальшивых обнаженных людей, вызывая тревогу у женщин, у которых гораздо меньше власти и известности, чем у Т.Свифт.
И контролировать производство дипфейков не так-то просто. Даже если в инструментах гигантов, таких как Microsoft, будут заблокированы такие возможности, люди смогут умудриться использовать открытые инструменты, такие как Stable Diffusion, для создания фейковых изображений.
Да, гораздо меньше пользователей могут получить доступ к этим генераторам, но инцидент со Свифт показывает, насколько широко может распространиться работа даже небольшого сообщества.
Что-то все же делается?
Производители цифрового контента, создатели ИИ продуктов и ученые-исследователи думают о решении проблемы:
1) Производители ИИ контента (например, OpenAI) не позволяют создавать изображения реальных людей.
2) Производители цифровой техники (Nikon, Sony и Canon) работают над созданием технологии цифровой подписи.
3) Третье направление - разработка технологий для обнаружения изменений (вмешательств) в контенте.
Наконец, законодатели также думают над этой проблемой. Конгресс США годами критикует социальные сети за их методы модерации, но до сих пор не может договориться и принять меры. Кейс Тейлор Свифт может быть поддержан двумя партиями, но неясно, будет ли этого достаточно для принятия закона.
Пожалуйста, поддержите меня, поставьте лайк!
Влияние продуктов на базе ИИ на нашу жизнь усиливается с умопомрачительной скоростью. Разработчики ChatGPT осознают это и работают над тем, чтобы предотвратить злоупотребления и обеспечить достоверность создаваемого ИИ контента. А нам важно понимать, какие есть возможности, чтобы не нарваться на фейковый контент.
В 2023 году загрузка приложений с искусственным интеллектом выросла в 9 раз, с чат-ботами — в 72 (!!) раза, создав отдельный сегмент. Рост продолжится, но в соцетях и микроблогах также идут серьезные изменения, а TikTok не дает спать спокойно всему рынку. И все вместе они борются не только за наше внимание, но и за кошелек.