«ВКонтакте» начала тестировать нейросеть для борьбы с оскорблениями — она автоматически удаляет комментарии с угрозами Статьи редакции
И рекомендует пользователям перед отправкой отказаться от оскорблений.
«ВКонтакте» запустила нейросеть для борьбы с оскорблениями и травлей в комментариях, рассказал vc.ru представитель компании. Она удаляет комментарии с угрозами и рекомендует пользователям перед публикацией отказаться от оскорблений.
Эксперимент продлится сутки — 4 ноября. Администраторы групп смогут включить фильтр враждебных высказываний в настройках сообщества. При этом администратор сможет увидеть все комментарии, которые отсеял фильтр, и восстановить их или отправить автора в чёрный список.
4 ноября рекомендации отказаться от оскорблений смогут увидеть все пользователи. Позже соцсеть начнёт долгосрочный тест на части пользователей. по результатам тестирования компания примет решение о дальнейшем использовании функции.
В мае 2020 года похожую функцию начала тестировать Twitter: соцсеть предлагает отредактировать сообщения с оскорблениями перед отправкой.
прекрасно, надеюсь наконец оскорбления и угрозы станут более изощренными и тонкими, а то примитивизм этот одолел уже 😂
Комментарий недоступен
подозреваю что такое отлавливается крайне легко
Комментарий недоступен
Комментарий недоступен
Да просто часть букв заменить на латинские с аналогичным начертанием и ещё несколько лет "нейросети" с этим не справятся)
īМƥ0ᖇ卞åɲʈ îš Ɲ0卞 øɲŁⴘ ʈНξ ƮσXT
Кстати, нет. В вк это, конечно, пока что, не продумали, но есть множество примеров, где это уже давным давно предусмотрели.
В данном случае речь про ВК. А там, где предусмотрели, далеко не факт, что прям все варианты предусмотрены.
Элементарно отлавливается. Даже нейросеть не нужна.
Если в словах идёт чередование кириллицы/латиницы, то сразу же подозрение. Машине "a" от "а" отличить проще, чем человеку.
Согласен. Но, по факту, пока это пока мало где применяется.
это вообще не угроза. Это ближе к оскарблению
отскраблению