🛡️ В Германии создали нейросеть, которая ловит дипфейки, пытаясь воссоздать их заново: точность до 91%

Немецкий Институт Фраунгофера (Fraunhofer IOSB) представил систему RealorRender для детекции сгенерированного ИИ контента. В отличие от традиционных методов, которые ищут артефакты, новая система использует парадоксальный подход: она пытается сама сгенерировать проверяемое изображение и анализирует ошибку реконструкции. Разбираем техническую суть метода, принцип объяснимого ИИ (XAI) и контекст борьбы с цифровыми подделками.

⚙ ТЕХНИЧЕСКАЯ СУТЬ МЕТОДА REALORRENDER Система комбинирует два подхода для вычисления вероятности того, что изображение является дипфейком: 1. Генеративная реконструкция: Нейросеть пытается заново создать проверяемую картинку. Если ИИ способен воспроизвести исходное изображение с высокой точностью, это служит сильным индикатором того, что оригинал сам был создан генеративной моделью (у них схожие паттерны распределения данных). 2. Оценка ошибки: Алгоритм измеряет разницу (ошибку реконструкции) между исходным файлом и его ИИ-версией. По данным разработчиков, базовая точность системы начинается с 85%, а в отдельных сценариях превышает 91%.

🔍 ПРИНЦИП «ОБЪЯСНИМОГО ИИ» (XAI) Одной из главных проблем детекторов дипфейков является эффект «черного ящика». RealorRender решает эту задачу с помощью алгоритмов Explainable AI (XAI): Система не просто выдает вердикт «фейк/не фейк». Она генерирует тепловые карты и сегментирует изображение, визуально выделяя те области (текстуры, артефакты, аномалии освещения), которые повлияли на итоговое решение. Это позволяет человеку-эксперту проверить и валидировать вывод алгоритма.

🌍 КОНТЕКСТ И АКТУАЛЬНОСТЬ Разработка появилась на фоне экспоненциального роста вредоносного использования дипфейков. Для иллюстрации масштаба проблемы приводятся данные расследования британского правительства (2023 год): На одном из изученных сайтов было выявлено более 276 000 откровенных дипфейков. 96% из них были посвящены женщинам. Специализированные сайты с ИИ-сервисами «раздевания» (undressing) собирали десятки миллионов визитов ежемесячно. RealorRender позиционируется как надежный инструмент для модерации контента, расследования случаев мошенничества, шантажа и сексуальной эксплуатации.

Источники: newatlas