Но еще чаты и онлайн-комнаты — место, где нужно общаться и делиться эмоциями. Эмоции бывают негативными, и если они не направлены против атлетов или окружающих, то почему бы пользователю не поделиться огорчением от проигрыша?

Итак, когда подготовительная работа проделана, приходит время события. Пока оно идет, онлайн-чаты модерируются на трех уровнях: автоматическая премодерация, ручная модерация специалистами и пользовательская модерация.

Автоматическую модерацию обеспечивают не только заданные заранее черные и белые списки. В процессе события модераторы предоставляют ИИ новую информацию, которая позволяет ему обучиться и подстроиться под конкретное событие, если. То есть могут добавить вариант токсичного сообщения или, наоборот, удалить что-то лишнее, что пользователи используют в обычном разговоре.

Второй уровень — живая модерация, при которой специалисты читают каждое сообщение на соответствие правилам чата. Опять же, живая модерация позволяет как не пропустить абьюз, так и не скрывать автоматически то, что таковым не является — то, как пользователи сокрушаются о пропущенном голе или жалеют о своей ставке на матч.

Сами пользователи тоже могут скрыть конкретное сообщение или все комментарии токсичного участника и больше не видеть их в чате. Это не ведет к непременному бану человека, который их оставил, зато делает среду более комфортной.

Получается три уровня, в каждом из которых важную роль играет живой человек, который при подстраховке ИИ оперативно оценивает абьюзивность каждого сообщения, а значит, может повлиять на ситуацию в реальном времени.