Google DeepMind выпустила детектор ИИ-текстов, который показывает, какие именно фразы выдают нейросеть

Исследователи Google DeepMind и Пенсильванского университета представили DetectorScope. Инструмент определяет, написан ли текст ИИ, и показывает, какие именно фразы его выдали.

Например, DetectorScope может обнаружить повторяющиеся фразы, характерные сочетания слов или разговорные конструкции.

Каждому признаку присваивается вес, который показывает, насколько сильно он повлиял на итоговую оценку. В интерфейсе можно навести курсор на текст и увидеть подозрительные фрагменты.

При этом разработчики предупреждают, что DetectorScope может ошибочно классифицировать человеческие тексты как ИИ. Использовать его результаты как доказательство авторства нельзя.

Код открыт под Apache 2.0, доступна на Hugging Face.