Разбираем как работает детектор нейросетей Synth ID от Google

Google выкатил в открытый доступ сайт synthid.com. Теперь каждый может загрузить картинку, песню или видео и проверить, приложил ли к ним руку искусственный интеллект. Разбираем по полочкам, как устроена эта проверка, почему старые способы поиска подделок провалились и что запуск означает на практике.

Первое поколение систем распознавания машинного контента строилось на поиске дефектов генерации. Программы анализировали смазанные границы мелких деталей, анатомические нестыковки, искажения светотени и микроскопический шум матрицы.

Но, понятное дело, такой подход нес в себе определенные критические уязвимости.

Во-первых, происходило постоянное отставание от темпов развития генеративных сетей. Как только создатели моделей повысили точность прорисовки геометрии и текстур, аналитические алгоритмы перестали отличать машинный результат от реальной съемки.

Во-вторых, росла доля ложных тревог. Системы регулярно признавали настоящие фотографии с необычным освещением или сильным студийным размытием компьютерной графикой.

Попытки решить задачу через стандартные метаданные вроде заголовков C2PA тоже натолкнулись на суровую практику интернета. Метаданные хранятся в служебном заголовке файла. При первой же публикации в социальных сетях или отправке через мессенджеры серверы платформы сжимают файл и полностью вычищают эти заголовки. Собственно, и подтверждение подлинности мгновенно исчезает.

Ну и, получается, что инженерам потребовался метод, способный намертво привязать авторский цифровой след к самому телу медиафайла.

Работу над скрытой маркировкой команда Google DeepMind вела с 2023 года. Эксперименты последовательно охватывали графические генераторы Imagen, звуковые модели Lyria, а весной 2024 года систему масштабировали на флагманскую видеосеть Veo и текстовые языковые архитектуры.

Технология построена на синхронной работе двух глубоких нейросетей.

Первая нейросеть интегрирована прямо в процесс генерации контента. В тот момент, когда модель формирует пиксели или звуковую волну, маркировочный алгоритм вносит микроскопические изменения в математические коэффициенты частотного распределения. Человеческий глаз и ухо физически не способны заметить эти отклонения. Визуальная четкость кадра и чистота звучания сохраняются в исходном виде.

Вторая нейросеть развернута на серверах детектора. Она обучена находить заложенный математический ключ среди миллиардов точек данных.

Главное преимущество метода состоит в физической неуязвимости подписи. Поскольку знак распределен по всему массиву полезных данных файла, он успешно выдерживает агрессивную цифровую обработку

Synth ID работает не как классификатор подозрительного контента, а как считыватель закрытого ключа. Он отвечает лишь на один вопрос, подписан ли данный файл сертифицированным алгоритмом альянса Google.

И тут оно работает примерно так.

Ролик, сгенерированный в Google Veo, или иллюстрация от подтвержденных партнеров вроде OpenAI будут распознаны моментально.

Даже после пересылки через несколько мессенджеров система с высокой математической точностью подтвердит факт машинного создания.

А вот если загрузить реалистичный снимок из Midjourney или локальной модели Flux, детектор покажет отрицательный результат. У него физически нет математического ключа от чужих генераторов.

Опять жеж, инструмент не берет на себя роль арбитра подлинности. Он защищает исключительно периметр решений, внедривших стандарт корпорации.

Возможно, что ближайшей перспективе поисковые алгоритмы, рекламные сети и видеосервисы начнут отдавать приоритет материалам с верифицированной цифровой историей.

Но, опять жеж, это скорее шаг назад, ведь, как мне кажется - ну нет в нейроконтенте (если брать только факт происхождения) ничего плохого.

Все зависит от цели и качества.