Роскомнадзор протестирует систему проверки видео на ложь и поиск дипфейков
Участники рынка сомневаются в перспективности разработки — вероятность ложных срабатываний может быть слишком высока.
- Специалисты Национального центра когнитивных разработок ИТМО разрабатывают для подведомственного Роскомнадзору Главного радиочастотного центра (ГРЧЦ) сервис Expert на основе искусственного интеллекта. Об этом пишет «Коммерсантъ» со ссылкой на источники и представителей ИТМО, Роскомнадзора и ГРЧЦ.
- Прототип сервиса представили Роскомнадзору на заседании экспертного совета ГРЧЦ по ИИ в июле, говорит источник издания. Он сразу же заинтересовал главу ведомства Андрея Липова, который попросил передать сервис на тестирование.
- Сервис позволяет анализировать видео на предмет лжи и представляет интерес для оперативного выявления дипфейков, говорит глава научно-технического центра ГРЧЦ Александр Федотов. Центр рассмотрит возможность применения системы, если ИТМО представит «устойчиво работающую технологию в виде готового продукта».
- Expert анализирует видео или аудио — оценивает уверенность, уровень агрессии внутренней и внешней, конгруэнтность (уровень согласованности информации, передаваемой вербальным и невербальным способом) и противоречивость, сравнивает слова с научными статьями и высказываниями других специалистов. Пока она заточена на работу с английским языком, но показатели агрессивности, конгруэнтности можно извлечь на любом языке.
- Английский выбрали как самый распространенный язык, доработка системы для получения текста из речи на русском языке стоит в ближайших планах. Сервис уже тестировали в преддверии выборов в Сенат США: с его помощью анализировали опубликованные на YouTube интервью шести кандидатов на предмет противоречивости, агрессии и уверенности в себе. В заявлениях трёх кандидатов система обнаружила скрытую агрессию, а одного уличила во лжи.
- Опрошенные «Ъ» эксперты говорят, что российские разработчики уже тестируют решения для распознавания дипфейков. При этом они опасаются, что в предложенном сервисе будет слишком высока вероятность ложных срабатываний.
Пока она заточена на работу с английским языком
— Русская разработка, но пока только на английском. Почему?
— Ну он просто самый распространенный, мы не спиздили разработку, не думайте, сами всё сами делали. И вообще вы дипфейк, наверное, а не журналист! Щас мы вас протестируем, ну-ка идите сюда.
Если из свободного репозитория то не считается!
Обучать систему предлагаю на заседаниях депутатов и выступлениях политиков первым делом! А ещё было бы неплохо анализировать тексты законов и указов.