Роскомнадзор предложил переложить борьбу с дипфейками на соцсети. Платформы должны будут сами находить и блокировать контент с ИИ
Главный радиочастотный центр (ГРЧЦ) Роскомнадзора выступил с новой инициативой: обязать российские соцсети самостоятельно выявлять и ограничивать распространение резонансных дипфейков — еще до того, как будет подтверждена их достоверность. Для этого планируют наделить ИТ-платформы специальными инструментами контроля. Идея звучит логично на фоне роста числа сгенерированного ИИ контента, но участники рынка видят в ней массу подводных камней. Разбираемся, что именно предлагает ведомство и почему ИТ-компании напряглись.
Что именно предлагает ГРЧЦ?
По словам Станислава Махортова (заместителя начальника отдела спецпроектов Научно-технического центра ГРЧЦ), главная проблема дипфейков — скорость их распространения. Сгенерированные видео, аудио и изображения вирусятся в сети быстрее, чем реальные инфоповоды.
Поэтому ведомство предлагает наделить соцсети правом (и, по сути, обязанностью):
- Выявлять подозрительный контент на этапе его зарождающейся популярности.
- Превентивно ограничивать его распространение.
- Замораживать показы до тех пор, пока информация не будет проверена у упомянутых лиц или организаций.
Для того чтобы это регулирование заработало, Роскомнадзор считает необходимым дать ИТ-платформам «понятные, открытые и технически реализуемые механизмы».
Что еще в планах?
Инициатива не ограничивается только соцсетями. Представитель ГРЧЦ озвучил еще несколько направлений:
- Обязательная маркировка. Любой контент, сгенерированный ИИ, должен получать соответствующую пометку до начала его распространения.
- База угроз. Создание единой базы технологических угроз для информирования населения.
- Обмен данными. Разработка решений для быстрого обмена информацией между бизнесом и государственными ведомствами.
Почему рынок не в восторге?
Идея «сначала блокируй, потом разбирайся», переложенная на плечи самих платформ, вызывает у ИТ-компаний ряд серьезных опасений.
1. Нет точных технических решений. Главная проблема — 100% надежного детектора дипфейков сейчас не существует. Алгоритмы часто ошибаются, и автоматика может заблокировать подлинный контент или пропустить качественную генерацию.
2. Репутационные и юридические риски. Ошибочные блокировки неизбежно приведут к конфликтам. Если соцсеть по ошибке «зарежет» вирусный ролик бренда или остановит важную информационную кампанию, это чревато судами и оттоком пользователей.
3. Рост издержек. Модерация огромных массивов данных (особенно видео) в реальном времени требует колоссальных вычислительных мощностей и привлечения живых асессоров для разбора спорных случаев. Для платформ это означает серьезный рост расходов на инфраструктуру и персонал.
Что в итоге?
Пока это лишь предложение, но тенденция очевидна: государство намерено жестко регулировать ИИ-контент, а издержки на контроль, вероятнее всего, лягут на сам ИТ-бизнес. Соцсетям придется балансировать между требованиями регулятора, недовольством пользователей из-за возможных ложных блокировок и затратами на внедрение систем распознавания дипфейков, которых в идеальном виде пока не существует на рынке.