SynthID Detector открыли всем
Моё мнение: это первый инструмент, который стоит показать родителям.
Вчера Google сделала детектор SynthID общедоступным — любой может проверить, созданы ли изображение, аудио или текст нейросетью.
Из всего октябрьского потока ИИ-новостей я бы выделил именно это событие — и объясню, почему.
Как человек, который объясняет нейросети нетехнической аудитории, я вижу здесь смену эпохи в миниатюре. Первые годы мы обсуждали, на что способны нейросети. Теперь наступила фаза, когда нужны инструменты проверки того, что они производят.
Детектор — первый такой инструмент, который одновременно бесплатен, прост и понятен без объяснений. Именно поэтому я говорю: покажите его родителям. Не «объясните, как работают нейросети» — это не работает, — а дайте один понятный ритуал: картинка вызывает сильную эмоцию — загрузил в детектор — потом решил, репостить или нет.
При этом две вещи, которые важно обозначить.
Во-первых, детектор уверенно распознаёт контент экосистемы Google, а картинки других нейросетей может пропустить. Это помощник с частичным покрытием, а не рентген.
Во-вторых, пометка «ИИ» — это не приговор. Сгенерированное изображение может быть честной иллюстрацией. Проблема не в том, что картинка нарисована нейросетью, а в том, что её выдают за документальный факт — и здесь детектор даёт вам формальное основание не репостить.
Моё правило, которое сложилось за годы работы с этой темой: технология проверки всегда отстаёт от технологии подделки. Поэтому детектор — вторая линия обороны. Первая по-прежнему бесплатна и работает всегда: источник, которого нет, — это не новость, а картинка.