Насколько deep ваш fake: можно ли распознать подделки на основе искусственного интеллекта?

Помните ставшую вирусной фотографию Папы Римского в белом пуховике? В марте 2023 в нее поверили буквально все — и соцсети, и СМИ. Достаточно быстро выяснилось, что фото было сгенерировано с помощью нейросети Midjourney, а в обществе с новой силой заговорили о потенциале искусственного интеллекта. Крупные СМИ выпустили материалы с объяснениями, что именно с этой картинкой не так, а модераторы социальных сетей добавили к особенно популярным постам плашки о фейке. Но, кажется, пора заводить новые отметки: не просто fake, а deepfake.

И пусть нейросети, генерирующие изображения по текстовому запросу, еще иногда выдают шестипалых монстров, но за последние полгода-год их результаты стали настолько реалистичными, что разработчики уже запретили генерировать новые изображения по некоторым запросам (в основном связанным с политиками и публичными фигурами) . Такая «глубина фейковости» достигается путем обучения ИИ на больших наборах данных.

Парадоксальным образом, именно искусственный интеллект и машинное обучение — те же инструменты, что используются для создания deepfake, — помогают в борьбе с ними. Суть метода заключается в обучении ИИ на огромных наборах данных, включающих как подлинные, так и поддельные изображения и видео. Искусственный интеллект «учится» выявлять тонкие признаки, которые отличают deepfake от оригинала — например, странные микроэкспрессии лица, неестественное мерцание в глазах или неправильное отражение света. Своеобразная игра в «найди десять отличий» на максималках, где вместо человеческих глаз за работу берутся мощные алгоритмы, способные провести тысячи проверок в секунду. Подобные системы постоянно совершенствуются и обучаются, адаптируясь к более новым и изощренным техникам создания deepfake.

В дополнение к машинному обучению есть и ручные методы, которые могут помочь в распознавании deepfake. Исследователи и эксперты по обработке изображений развили ряд техник, которые включают поиск аномалий в изображениях или видео, таких как неестественное мерцание, странные движения глаз или несоответствие между голосом и движениями губ. Кроме того, может быть полезно изучить метаданные: информацию об изображении или видео, времени создания, использованной камеры, истории редактирований и так далее. Ручные методы требуют значительных навыков и опыта.

Социальные сети играют ключевую роль в борьбе с подделками. Это связано с тем, что они являются основными каналами распространения информации, в том числе и подделок. Соцсети и мессенджеры — своеобразные входные двери и окна, через которые может проникнуть вор. Если мы укрепим эти «входные точки» с помощью правил и регуляций, то сможем значительно затруднить жизнь злоумышленников.

Цифровые водяные знаки и технологии идентификации авторства представляют собой другую линию защиты против deepfake. Они работают путем внедрения невидимых или почти невидимых меток в изображения или видео. Такие метки могут содержать информацию об авторе или оригинальном источнике, и их сложно убрать без повреждения самого медиафайла.

Но независимо от всего научно-технического прогресса, одним из наиболее мощных инструментов против deepfake является образование и осведомленность пользователей. Обучение людей признакам deepfake и тому, как им следует реагировать при обнаружении подделки, имеет огромное значение.

Регулирование deepfake и подобных технологий становится все более важным в свете их потенциального использования для дезинформации и манипуляций. На уровне стран и регионов уже существуют законы, цель которых – бороться с этим новым вызовом. В США, например, некоторые штаты приняли законы, которые запрещают создание и распространение поддельных порнографических изображений без согласия изображенных на них людей.

Дискуссия о балансе между свободой творчества, приватностью и безопасностью является одной из наиболее сложных и важных в контексте дипфейков и генеративного контента вообще. С одной стороны, технологии искусственного интеллекта, лежащие в основе, могут быть использованы для творческих и благородных целей – например, для реставрации старых фильмов, создания виртуальных ассистентов или синтеза речи для людей, страдающих от нарушений голоса. Они могут также служить средством выражения и демократизации медиаконтента. С другой стороны, возможность злоупотребления этих технологий для создания поддельных изображений и видео создает серьезные проблемы.

Ключ к балансу между этими важными ценностями, вероятно, лежит в разумном регулировании и образовании. Это может включать в себя юридические меры против неправомерного использования технологии deepfake, вместе с просветительской работой, направленной на обучение людей использованию и распознаванию подделок.