OpenAI выпустил инструмент для выявления текстов, написанных ИИ Статьи редакции
Точность его работы повышается по мере увеличения длины текста.
- Компания рассказала, что создала классификатор, который способен отличить текст, написанный человеком, от текста, сгенерированного нейросетью. Он должен помочь выявлять использование ИИ для распространения дезинформации или злоупотреблений в сфере образования.
- Классификатор представляет собой языковую модель, обученную на парах из текстов, созданных человеком и сгенерированных ИИ. Для этого запросы к нейросетям формулировались в соотвествии с темами текстов, написанных людьми.
- OpenAI предупреждает, что инструмент не полностью надёжен, и рекомендует использовать его только для материалов на английском языке. Во время тестов классификатор определял тексты, написанные ИИ, с точностью 26%. В 9% случаев он неверно определял текст, созданный человеком, как сгенерированный.
- Точность работы классификатора повышается по мере увеличения объёма проверяемого текста. Его надёжность при проверки маленьких текстов (меньше тысячи знаков) будет низкой. Он также может выдать ложный результат при проверке отредактированного человеком текста.
«Экзамен сдал, но на троечку»: как чат-бот ChatGPT пытался выпуститься из университетов
Статьи редакции
Спойлер: с трудом. Но учёные отмечают, что с простыми вопросами он справляется не хуже студентов.
23K
показов
9.6K
открытий
А потом выпустит апдейт для ChatGPT, который научит его обходить детектор.
Скорее выпустят свой Adblock, который будет убирать тексты написанные ИИ
но не факт что он исправно будет работать, по любому огрехи будут
Да и пофиг, читать все равно уже не модно
современные проблемы, требуют современных решений))