Легальный способ спалиться. Google разрешила бесплатно проверять водяные знаки OpenAI, NVIDIA и Kakao
Интернет тонет в сгенерированном контенте, и запрос на ультимативную кнопку правды сейчас как никогда высок. Все хотят инструмент, куда можно загрузить картинку и точно узнать это реальное фото или работа нейросети.
Google выкатила в публичный доступ SynthID Detector бесплатный веб-сервис для проверки изображений, видео и аудио. В заголовках новостей это подается как спасение от дипфейков, но если копнуть чуть глубже, магия быстро рассеивается.
Сканер, а не анализатор
Главное, что нужно понимать про SynthID это не детектор ИИ в классическом понимании. Он не анализирует артефакты, не считает пальцы на руках и не ищет ошибки в физике освещения.
По сути, это просто продвинутый сканер штрихкодов. Он ищет конкретный цифровой водяной знак, который крупные корпорации вшивают в файлы на этапе генерации.
На данный момент детектор умеет распознавать метки от:
- Google (Gemini, Imagen)
- OpenAI (DALL-E)
- NVIDIA
- Kakao
- Позже обещают добавить поддержку меток Apple Intelligence.
Для использования сервиса нужен только аккаунт Google, OpenAI или Apple.
Внедрение SynthID отличный шаг для экосистемы легальных, корпоративных нейросетей, которые играют по правилам. Но как инструмент выявления дезинформации он обладает фатальными недостатками.
- Он слеп к локальным сеткам. Инструмент бесполезен против изображений, сгенерированных в локальном Stable Diffusion, Midjourney или китайских опенсорс-моделях. Если при генерации метка не вшивалась детектор ничего не найдет.
- Метку можно затереть. Хотя Google заявляет о высокой устойчивости SynthID (знак выживает при кропе, изменении цвета и сжатии), на профильных форумах энтузиасты уже разбирают способы намеренной очистки этих метаданных. Нет метки — нет детекта.
- Отсутствие контекста редактирования. Детектор работает бинарно, метка либо есть, либо её нет. Он не скажет вам, сгенерировано ли изображение с нуля или это реальная репортажная фотография, на которой журналист просто замазал лишний столб через Generative Fill в Photoshop. В обоих случаях файл получит клеймо «ИИ-контент».
Google выпустила удобную утилиту для базовой модерации. Но ультимативного сканера, способного отличить любой фейк от реальности, по-прежнему не существует. И, судя по скорости развития открытых моделей, скорее всего, никогда не будет.
Не отставайте от технологий! Подписывайтесь на Telegram-канал, чтобы быть в курсе последних трендов и лайфхаков.