В этом кейсе весьма ярко отразились все проблемы, вызванные созданными с помощью искусственного интеллекта дипфейками, и сложности их решения. Я изучила ситуацию вокруг этого случая и делюсь этим с вами.
*** Пожалуйста, поставьте лайк моей публикации! ***
45000000
А недавние "безобидные" реалистичные фото горящей Эйфелевой башни в другой соцсети набрали 87 млн. просмотров за три дня.
Что произошло
Созданный ИИ дипфейк сексуального характера стал быстро распространяться в Х в прошлую среду и один из постов набрал свыше 45 млн. просмотров и более 24 тыс. репостов, прежде чем был удален.
Платформа реагировала медленно, и сообщение оставалось в сети около 17 часов. Позже изображения распространились на более мелкие аккаунты и до сих пор доступны на X. В некоторых регионах запрос «ИИ Тейлор Свифт» попал в тренды, тем самым продвигая изображения на еще более широкую аудиторию.
В X пообещали активно удалять запрещенный контент и отключили поиск по запроcу “Taylor Swift”. Политика X явно запрещает размещение такого рода контента на платформе. Хотя представители X не ответили на запросы медиа, X опубликовал публичное заявление почти через день после начала инцидента, но без упоминания конкретно изображений Свифт.
Ответственность за предотвращение распространения фейковых изображений часто ложится на социальные платформы.
ЕС уже расследует деятельность Х по обвинениям в «распространении незаконного контента и дезинформации». После обнаружения на платформе распространения дезинформации о войне между Израилем и Хамасом, компанию допрашивают относительно ее кризисных протоколов.
Фанаты Свифт раскритиковали X за медленную реакцию и в ответ отреагировали наводнением хэштегов, используемых для распространения настоящих клипов Свифт, чтобы "перебить" фейки.
Весьма примечательно, что история произошла с поп-звездой, чьи концерты в 2023 году принесли ВВП США $4,3 млрд по оценкам Bloomberg.
Что последовало?
Пресс-секретарь Белого дома Карин Жан-Пьер в пятницу заявила, что Белый Дом обеспокоен ситуацией, и необходимо принять закон, защищающий людей от фальшивых сексуальных изображений.
О ситуации с фейком также спросили СЕО Microsoft С.Наделла (подробнее о выдающемся CEO компании) во время интервью на NBC Nightly News, которое выйдет в следующий вторник. Он назвал ситуацию "тревожной и ужасной” и заявил, что это ответственность индустрии установить необходимые ограничения технологии.
У Наделлы неслучайно спросили об этом кейсе. В отчете 404 Media говорится, что изображения могли быть созданы в группе в Telegram, где пользователи делятся порно фото, созданными ИИ, зачастую созданными с помощью Microsoft Designer.
Designer теоретически отказывается создавать изображения известных людей, но его легко обмануть, внеся небольшие изменения в промпты. Хотя это и не доказывает, что для создания изображений Свифт использовался именно Designer, это тот технический недостаток, который Microsoft может устранить.
Позже в Microsoft подтвердили, что работают над тем, чтобы закрыть "лазейку" с возможностью генерации порно изображений реальных людей.
О чем это говорит?
Этот инцидент говорит об очень острой задаче остановить созданные ИИ дипфейк изображения реальных людей.
Действительно, о проблеме дипфейков говорят со всех сторон:
- В отчете “Global Risks Report 2024” ИИ-фейки стоят на втором месте, а в ближайшие два года по мнению экспертов, эта проблема выйдет на первое.
- Журнал Nature включил технологию противодействия дипфейкам в число 7 самых важных направлений исследований 2024 года.
А если просто запретить? (Поиск простого решения)
Инструменты ИИ значительно упростили процесс создания фальшивых обнаженных людей, вызывая тревогу у женщин, у которых гораздо меньше власти и известности, чем у Т.Свифт.
И контролировать производство дипфейков не так-то просто. Даже если в инструментах гигантов, таких как Microsoft, будут заблокированы такие возможности, люди смогут умудриться использовать открытые инструменты, такие как Stable Diffusion, для создания фейковых изображений.
Да, гораздо меньше пользователей могут получить доступ к этим генераторам, но инцидент со Свифт показывает, насколько широко может распространиться работа даже небольшого сообщества.
Что-то все же делается?
Производители цифрового контента, создатели ИИ продуктов и ученые-исследователи думают о решении проблемы:
1) Производители ИИ контента (например, OpenAI) не позволяют создавать изображения реальных людей.
2) Производители цифровой техники (Nikon, Sony и Canon) работают над созданием технологии цифровой подписи.
3) Третье направление - разработка технологий для обнаружения изменений (вмешательств) в контенте.
Наконец, законодатели также думают над этой проблемой. Конгресс США годами критикует социальные сети за их методы модерации, но до сих пор не может договориться и принять меры. Кейс Тейлор Свифт может быть поддержан двумя партиями, но неясно, будет ли этого достаточно для принятия закона.
#ии #иибудущее #chatgpt #chatgpt4 #ai #интернет #нейросети #будущееии #безопасность #безопасностьвинтернете #тейлорсвифт #taylorswift #цифроваяподпись #openai #microsoft #дипфейки #deepfake #twitter #microsoft `#тейлорсвифт
Пожалуйста, поддержите меня, поставьте лайк!
Влияние продуктов на базе ИИ на нашу жизнь усиливается с умопомрачительной скоростью. Разработчики ChatGPT осознают это и работают над тем, чтобы предотвратить злоупотребления и обеспечить достоверность создаваемого ИИ контента. А нам важно понимать, какие есть возможности, чтобы не нарваться на фейковый контент.
По мнению Nature, одного из самых авторитетных научных журналов в мире
То, что важно прямо сейчас и окажет самое большое влияние на развитие в мире, и главное — почему. Весь спектр новаций, от медицины и техники до промышленного развития и соцсетей, по версии одного из лучших технологических вузов мира.
В 2023 году загрузка приложений с искусственным интеллектом выросла в 9 раз, с чат-ботами — в 72 (!!) раза, создав отдельный сегмент. Рост продолжится, но в соцетях и микроблогах также идут серьезные изменения, а TikTok не дает спать спокойно всему рынку. И все вместе они борются не только за наше внимание, но и за кошелек.
так вроде уже приняли закон, по крайней мере на сколько я знаю ютубчик уже ввел санкции против дипфейков
Зато теперь можно делать что угодно, а потом говорить, что всё это неправда и дипфейк.
И говорить всем что видео отфотошопили 😁
Дипфейки - зло 21го века
так, а где голая тейлор? а вообще пора привыкнуть, что то, что ты видишь может быть неправдой. бороться с этим себе вредить. надо это просто принять.
За дипфейки разве еще не сажают?
Выкладывайте реальные голые фото сами, только так можно победить фейки и сливы! ( ͡° ͜ʖ ͡°)
Комментарий недоступен