Минцифры запланировало создать систему для выявления «дипфейков» Статьи редакции
Её эффективность будет зависеть от вычислительных ресурсов и содействия онлайн-платформ, считают эксперты.
- О планах по созданию платформы для выявления созданных с помощью ИИ фейков «Ведомостям» рассказал представитель Минцифры. Разработать её в конце 2023 года поручил премьер-министр Михаил Мишустин.
- Когда планируется запустить систему и кто займётся её поддержкой, собеседник газеты не уточнил. По его словам, на этапе обсуждения было «предложено предварительно провести научно-исследовательские работы по обозначенной тематике».
- Разработка могла бы определять в видео и изображениях неестественные изменения или аномалии. Впрочем, логичнее было бы выявлять не внешние признаки дипфейка, а использование конкретной технологии, считают в компании-поставщике систем ИТ-безопасности T.Hunter.
- Одно из возможных решений — поисковый робот, который сканирует видео, проверяет его уникальность и вероятность того, что оно сгенерировано, говорит гендиректор VisionLabs Дмитрий Марков. Но подобный подход потребует большого количества вычислительных ресурсов, отмечает он. Такие мощности может обеспечить крупный игрок российского телеком- или ИТ-рынка.
- Инструмент, который планирует создать Минцифры, может быть реализован в виде плагина для браузера, который автоматически сканирует сайты на наличие ИИ-контента, рассуждает собеседник газеты на рынке. Однако для мониторинга соцсетей нужно будет получать доступ к API той или иной платформы и разрабатывать специальное ПО.
- Некоторые платформы, в том числе YouTube и сервисы Meta (признана в России экстремистской и запрещена), уже заявили о планах обязать пользователей маркировать созданный ИИ контент. А нейросеть Sora от OpenAI помечает сгенерированные видео водяными знаками.
2.7K
показов
1.8K
открытий
Не совсем понятно - почему нужно делать глобальную систему проверки? Ведь есть текстовые новости - очень много фейков, система самоорганизуется посредством штрафов и прочих разумных мер, так мы получаем сми, которые не кидают бесконечные фейки.
Нет ли идеи что также должна работать история с дипфейком - если сайт с большой аудиторией или инфлюенсер опубликовал непроветренную информацию - штраф.
Это ведь разумно, кажется, и не придется многие ресурсы при этом расходовать на постоянную работу поискового робота.
Современные причины осваивания бюджетика