Как Google помечает ИИ-картинки
Погрузился на досуге в теорию SynthID. Это технология, с помощью которой они внедряют невидимые метки в генерируемые изображения — что-то вроде неявного водяного знака.
Это позволяет им надежно классифицировать ИИ-изображения (и естественно, понижать такие сайты в выдаче, хоть вам этого и не скажут)
Не путать с вотермаркой и метаданными — это все видно глазами и может быть легко удалено.
Часть информации известна из публичных источников, часть спекулятивно. Но вот к каким выводам я пришел.
- Метка вставляется в постпроцессинге отдельным нейросетевым энкодером, без опоры на детерминированные алгоритмы
- Энкодер предпочитает работать на контрастных границах объектов
- Метка избыточна в несколько раз и "голографична" — куска изображения достаточно для восстановления метки всего изображения.
- Обнаружить метку по сути невозможно, в паблике нет ни энкодера ни декодера, пространство модификаций огромно, вдобавок, метку хэшируют перед вставкой — нужно искать шум в шуме
- Удалить метку проще, чем обнаружить
- Метка высокоустойчива к стандартным модификациям изображения - изменения цветов, контраста, яркости, шума и денойза
- Метка теоретически разрушается в пайплайне со случайной пространственной деформацией изображения (сдвиги на 1-2 пикселей) + дальнейшему прогону через Img-to-Img диффузию с денойзингом. Но проверить нельзя (см пункт про обнаружение)
- Натренировать свое подобие внедрения подобной метки относительно несложно, по сути это передовая стеганография — можно вшивать в картинки пароли и хрен кто их вскроет. То же самое касается обхода DPI анализаторов трафика.
Все это во многом спекуляции, информации в паблике мало. В каментах интересно послушать знатоков, насколько это соответствует действительности.
Подписывайтесь на Telegram Глеб Кудрявцев про AI кодинг.