Дипфейк Тейлор Свифт всколыхнул всех, от пользователей Х до Белого дома

В этом кейсе весьма ярко отразились все проблемы, вызванные созданными с помощью искусственного интеллекта дипфейками, и сложности их решения. Я изучила ситуацию вокруг этого случая и делюсь этим с вами.

*** Пожалуйста, поставьте лайк моей публикации! ***

А недавние "безобидные" реалистичные фото горящей Эйфелевой башни в другой соцсети набрали 87 млн. просмотров за три дня.

Созданный ИИ дипфейк сексуального характера стал быстро распространяться в Х в прошлую среду и один из постов набрал свыше 45 млн. просмотров и более 24 тыс. репостов, прежде чем был удален.

Платформа реагировала медленно, и сообщение оставалось в сети около 17 часов. Позже изображения распространились на более мелкие аккаунты и до сих пор доступны на X. В некоторых регионах запрос «ИИ Тейлор Свифт» попал в тренды, тем самым продвигая изображения на еще более широкую аудиторию.

В X пообещали активно удалять запрещенный контент и отключили поиск по запроcу “Taylor Swift”. Политика X явно запрещает размещение такого рода контента на платформе. Хотя представители X не ответили на запросы медиа, X опубликовал публичное заявление почти через день после начала инцидента, но без упоминания конкретно изображений Свифт.

Ответственность за предотвращение распространения фейковых изображений часто ложится на социальные платформы.

Фанаты Свифт раскритиковали X за медленную реакцию и в ответ отреагировали наводнением хэштегов, используемых для распространения настоящих клипов Свифт, чтобы "перебить" фейки.

Весьма примечательно, что история произошла с поп-звездой, чьи концерты в 2023 году принесли ВВП США $4,3 млрд по оценкам Bloomberg.

Пресс-секретарь Белого дома Карин Жан-Пьер в пятницу заявила, что Белый Дом обеспокоен ситуацией, и необходимо принять закон, защищающий людей от фальшивых сексуальных изображений.

О ситуации с фейком также спросили СЕО Microsoft С.Наделла (подробнее о выдающемся CEO компании) во время интервью на NBC Nightly News, которое выйдет в следующий вторник. Он назвал ситуацию "тревожной и ужасной” и заявил, что это ответственность индустрии установить необходимые ограничения технологии.

Designer теоретически отказывается создавать изображения известных людей, но его легко обмануть, внеся небольшие изменения в промпты. Хотя это и не доказывает, что для создания изображений Свифт использовался именно Designer, это тот технический недостаток, который Microsoft может устранить.

Этот инцидент говорит об очень острой задаче остановить созданные ИИ дипфейк изображения реальных людей.

Действительно, о проблеме дипфейков говорят со всех сторон:

Инструменты ИИ значительно упростили процесс создания фальшивых обнаженных людей, вызывая тревогу у женщин, у которых гораздо меньше власти и известности, чем у Т.Свифт.

И контролировать производство дипфейков не так-то просто. Даже если в инструментах гигантов, таких как Microsoft, будут заблокированы такие возможности, люди смогут умудриться использовать открытые инструменты, такие как Stable Diffusion, для создания фейковых изображений.

Да, гораздо меньше пользователей могут получить доступ к этим генераторам, но инцидент со Свифт показывает, насколько широко может распространиться работа даже небольшого сообщества.

Производители цифрового контента, создатели ИИ продуктов и ученые-исследователи думают о решении проблемы:

1) Производители ИИ контента (например, OpenAI) не позволяют создавать изображения реальных людей.

2) Производители цифровой техники (Nikon, Sony и Canon) работают над созданием технологии цифровой подписи.

3) Третье направление - разработка технологий для обнаружения изменений (вмешательств) в контенте.

Наконец, законодатели также думают над этой проблемой. Конгресс США годами критикует социальные сети за их методы модерации, но до сих пор не может договориться и принять меры. Кейс Тейлор Свифт может быть поддержан двумя партиями, но неясно, будет ли этого достаточно для принятия закона.

#ии #иибудущее #chatgpt #chatgpt4 #ai #интернет #нейросети #будущееии #безопасность #безопасностьвинтернете #тейлорсвифт #taylorswift #цифроваяподпись #openai #microsoft #дипфейки #deepfake #twitter #microsoft `#тейлорсвифт