Роскомнадзор запустил систему автоматического поиска запрещённого фото- и видеоконтента «Окулус» Статьи редакции

Она работает как классификатор данных и обрабатывает свыше 200 тысяч материалов в сутки.

• РКН начал работать с системой автоматического поиска противоправного контента в изображениях и видеозаписях «Окулус», сообщил «Ведомостям» представитель подведомственного РКН Главного радиочастотного центра (ГРЧЦ), который выступал заказчиком.
• Детали ГРЧЦ не раскрыл, но сказал, что система протестирована ещё в декабре 2022 года и теперь «выполняет возложенные задачи в полном объёме». Она распознаёт сцены, действия, символы и тексты и фиксирует те, что указывают на экстремизм, продвижение наркотиков, «пропаганду ЛГБТ*», призывы к «массовым незаконным мероприятиям» и суициду.
• Система работает как «классификатор с заданным набором источников» и умеет анализировать страницы сайтов, а также профили и паблики в соцсетях, пояснила гендиректор компании «Социальная лаборатория» Наталия Тылевич. По её словам, непосредственно сбором данных «Окулус» не занимается.
• Без «Окулуса» сотрудники РКН были вынуждены искать запрещённый контент «преимущественно вручную»: в день один оператор в среднем обрабатывал по 100 изображений и роликов. Новая система, в свою очередь, изучает более 200 тысяч единиц контента в сутки.
• Гендиректор Лиги безопасного интернета Екатерина Мизулина отметила: полученная системой информация «не будет автоматически куда-либо отправляться — в том числе для возбуждения дел и внесения в реестр запрещенных сайтов». Анализировать результаты будут «в связке с другими инструментами и человеком» — чтобы не допустить «ложного срабатывания».
• До 2025 года ведомство хочет добавить в систему новые классы и типы нарушений, а также функции «определения поз людей и их действий». Её также научат выявлять противоправные элементы «на нескольких кадрах в видеофрагментах, в сложных рукописных текстах и рисованном контенте», говорят собеседники газеты.
• Потребность в инструменте регуляторы объясняют «лавинообразным потоком» нежелательных с точки зрения российских законов материалов — в том числе «фейков». Их нужно блокировать до того, как их увидит весь интернет и особенно дети и молодёжь, считают в ГРЧЦ.
• О планах разработать «Окулус» РКН и ГРЧЦ говорили ещё в сентябре 2021 года. В августе 2022-го РКН решил выделить на это 57,7 млн рублей.

*Верховный суд признал экстремистским «международное общественное движение ЛГБТ» и запретил его деятельность в России. Что конкретно подразумевают под «движением» и считают «экстремизмом» — не уточняется.

#новость #роскомнадзор