В отчете “Global Risks Report 2024” ИИ-фейки стоят на втором месте, а в ближайшие два года, по мнению экспертов, эта проблема и вовсе выйдет на первое место. Это отражает растущую обеспокоенность всех, начиная с создателей ИИ продуктов и заканчивая политиками. К счастью, над решением проблемы работают с разных сторон, читайте, как именно.
700000
1) Усилия создателей контента
Nikon, Sony и Canon борются с фейками ИИ с помощью новой технологии. Они внедряют цифровые подписи, которые помогут отличить настоящие фотографии от подделок.
«Фальшивые и манипулируемые изображения являются серьезной проблемой для новостных организаций. Они не только способствуют дезинформации и дезинформации, но в конечном итоге подрывают доверие общественности к реальным и точным изображениям»
Альянс новостных, технологических компаний и производителей фотоаппаратов уже запустил веб-инструмент Verify для бесплатной проверки изображений. Если изображение имеет цифровую подпись, на сайте отображается дата, местоположение и другие учетные данные. Если изображение было создано с помощью ИИ или было изменено, инструмент проверки пометит его как «Нет учетных данных контента».
Кроме того, Canon выпускает приложение для управления изображениями, позволяющее узнать, сделаны ли изображения людьми.
Также производители внедряют цифровые подписи, которые соответствуют глобальному стандарту, используемому Nikon, Sony и Canon. Sony разработала встроенную в камеру цифровую подпись совместно с Associated Press и начнет производить такие камеры весной 2024 года. Еще Sony внедрит C2PA аутентификацию (см. информацию о ней ниже). Canon также обещает внедрить цифровую подпись в этом году.
Технология аутентификации Sony обеспечивает цифровую подпись, исключая возможность незамеченных манипуляций на начальном этапе. Она создается внутри камеры в момент снимка и предназначена для профессионалов, желающих защитить подлинность своего контента.
Японские компании контролируют около 90% мирового рынка цифровых фотоаппаратов.
2) Усилия разработчиков ИИ инструментов
Работа идет как минимум в трех направлениях. Подробнее об усилиях разработчиков тут.
В августе 2023 г. Google выпустила инструмент, который встраивает невидимые цифровые водяные знаки в изображения, созданные искусственным интеллектом. В 2022 году Intel разработала технологию, позволяющую определять подлинность изображения путем анализа цвета кожи, указывающих на кровоток под кожей субъектов. Hitachi разрабатывает технологию защиты от подделок для онлайн аутентификации личности.
В конце 2023 года OpеnAI совместно с Коалицией за подлинность контента (C2PA) представила новый «знак прозрачности» Content Credentials, который будет служить создателям, маркетологам и потребителям во всем мире знаком доверия к цифровому контенту.
Также в OpenAI идут эксперименты с классификатором происхождения — новым инструментом для обнаружения изображений, созданных DALL·E. Внутреннее тестирование показало многообещающие первые результаты, даже если изображения подвергались модификации. Планируют вскоре предоставить его первой группе тестировщиков, включая журналистов, медиа и расследователей для получения обратной связи.
В начале февраля 2024 года OpenAI начала маркировать изображения, созданные ChatGPT и DALL·E 3. В изображениях будут закодированы сведения о происхождении контента.
3) Усилия государств
Недавно прошла новость, что Федеральная торговая комиссия (FTC) США запустила свой первый в истории конкурс и выплатит $35 тыс. на борьбу с клонированием голоса. Аналитики из Deloitte на CES 2024 рассказали, что мошенники в этом году смогут заработать до полутриллиона долларов на клонировании голосов при помощи ИИ.
Пожалуйста, поддержите меня, поставьте лайк!
#ии #иибудущее #chatgpt #chatgpt4 #ai #интернет #нейросети #будущее #будущее_уже_здесь #будущееии #безопасность #безопасностьвинтернете
Эти тренды имеют вполне практическое значение для нас, обычных пользователей. К оценкам Массачусетского технологического института (MIT) стоит прислушаться: их прогнозам на 2023 год сбылись почти в полном объеме, и текущие прогнозу, к слову, уже начали сбываться.
Попытки Google разрушить расовые и гендерные стереотипы при генерации изображений вызвало непонимание, а отказ Gemini создавать определенные изображения так и вовсе породил подозрения в заговоре. Разбираемся, что именно произошло и почему так вышло.
Так же существуют российский аналоги по защите от дипфейков - например проект No Copy - скрытый водяной знак