Минцифры запланировало создать систему для выявления «дипфейков»

Её эффективность будет зависеть от вычислительных ресурсов и содействия онлайн-платформ, считают эксперты.

О планах по созданию платформы для выявления созданных с помощью ИИ фейков «Ведомостям» рассказал представитель Минцифры. Разработать её в конце 2023 года поручил премьер-министр Михаил Мишустин.
Когда планируется запустить систему и кто займётся её поддержкой, собеседник газеты не уточнил. По его словам, на этапе обсуждения было «предложено предварительно провести научно-исследовательские работы по обозначенной тематике».
Разработка могла бы определять в видео и изображениях неестественные изменения или аномалии. Впрочем, логичнее было бы выявлять не внешние признаки дипфейка, а использование конкретной технологии, считают в компании-поставщике систем ИТ-безопасности T.Hunter.
Одно из возможных решений — поисковый робот, который сканирует видео, проверяет его уникальность и вероятность того, что оно сгенерировано, говорит гендиректор VisionLabs Дмитрий Марков. Но подобный подход потребует большого количества вычислительных ресурсов, отмечает он. Такие мощности может обеспечить крупный игрок российского телеком- или ИТ-рынка.
Инструмент, который планирует создать Минцифры, может быть реализован в виде плагина для браузера, который автоматически сканирует сайты на наличие ИИ-контента, рассуждает собеседник газеты на рынке. Однако для мониторинга соцсетей нужно будет получать доступ к API той или иной платформы и разрабатывать специальное ПО.
Некоторые платформы, в том числе YouTube и сервисы Meta (признана в России экстремистской и запрещена), уже заявили о планах обязать пользователей маркировать созданный ИИ контент. А нейросеть Sora от OpenAI помечает сгенерированные видео водяными знаками.