Что остается людям, когда контент модерирует ИИ

Автоматические системы с ИИ под капотом корректно обрабатывают около 90% нарушающего контента. Но людей-модераторов рано списывать со счетов. Разбираемся, почему работа последних усложнилась, что это меняет для платформ и для тех, кто ими управляет.

Модерация нужна не только в соцсетях. На маркетплейсах вроде WB и Ozon тоже проверяют фото и карточки товаров, отзывы покупателей, в том числе с фото и видео, ответы продавцов.

Стриминговые сервисы тоже модерируют контент. Так, Spotify убрал из рекомендаций больше 50 млн ИИ- и спам-треков. На Яндекс Музыке после двухэтапной проверки (ИИ и модераторами) с октября 2025 года по март 2026 года более 78 тыс. треков и эпизодов подкастов отметили как контент с нецензурной лексикой или описаниями насилия.

Раньше масштаб модерации рос вместе с платформой: больше пользователей, больше контента, больше людей, которые его проверяют. Сегодня правила меняются, потому что солидный пласт работ забирают нейросети.

По разным оценкам, точность автоматики превышает 90–95%. Например, Роскомнадзор сообщал, что точность выявления отдельных особо опасных видов запрещённой информации его системами достигает 98%. А системы TikTok в первом полугодии 2026 года обработали без проверки человеком 94,1% контента, который нарушал правила соцсети в ЕС.

Но люди остаются в профессии. ИИ и здесь берёт на себя типовые случаи. Человеку остаётся работа с сарказмом, местным контекстом и культурными особенностями, многозначностью лексики, спорными обращениями, апелляциями — и контроль за решениями ИИ. Кроме того, модератор оценивает изображения, звуки, тексты, видео в совокупности, чтобы не упустить скрытый смысл сообщения.

Именно человек мониторит сбои и передает обратную связь командам, которые развивают системы модерации. Наконец, человек формулирует правила модерации. Тем более, что правила множатся и отличаются в разных странах, возрастных группах, платформах. Новые законы и судебные споры заставляют определять нормы модерации отдельно для каждой юрисдикции.

Из-за перемен в процессе модерации меняется роль поставщика услуг. Скорости и аккуратности становится недостаточно. Бизнес-партнёр теперь должен замечать новые риски, помогать калибровать решения ИИ, разбирать причины апелляций и передавать выводы продуктовым и юридическим командам.

Это меняет стоимость услуг. В неё входит цена автоматических операций, проверки и последствий. Важно понимать, сколько ошибок, ложных срабатываний и блокировок допустимо, сколько может быть апелляций, как быстро команде их придётся разбирать, насколько важно оперативно выявлять риски и уязвимости. Да, людей может требоваться меньше, но не всегда. При этом каждое их решение будет значить больше.

* * *

Модерация переходит от массовой проверки к управлению рисками. Автоматизация избавляет людей от рутины и оставляет им особые случаи. Внешний партнёр с опытом модерации в итоге помогает улучшать и процессы, и продукты.