OpenAI выпустил инструмент для выявления текстов, написанных ИИ Статьи редакции
Точность его работы повышается по мере увеличения длины текста.
- Компания рассказала, что создала классификатор, который способен отличить текст, написанный человеком, от текста, сгенерированного нейросетью. Он должен помочь выявлять использование ИИ для распространения дезинформации или злоупотреблений в сфере образования.
- Классификатор представляет собой языковую модель, обученную на парах из текстов, созданных человеком и сгенерированных ИИ. Для этого запросы к нейросетям формулировались в соотвествии с темами текстов, написанных людьми.
- OpenAI предупреждает, что инструмент не полностью надёжен, и рекомендует использовать его только для материалов на английском языке. Во время тестов классификатор определял тексты, написанные ИИ, с точностью 26%. В 9% случаев он неверно определял текст, созданный человеком, как сгенерированный.
- Точность работы классификатора повышается по мере увеличения объёма проверяемого текста. Его надёжность при проверки маленьких текстов (меньше тысячи знаков) будет низкой. Он также может выдать ложный результат при проверке отредактированного человеком текста.
«Экзамен сдал, но на троечку»: как чат-бот ChatGPT пытался выпуститься из университетов
Статьи редакции
Спойлер: с трудом. Но учёные отмечают, что с простыми вопросами он справляется не хуже студентов.
23K
показов
9.6K
открытий
А потом все удивляются, почему колличество информации в мире растет в геометрической прогрессии ))
Теперь колличество мусорной информации будет расти в разы больше.
А кстати да, интересная мысль. Где же мы все это будем хранить через пару лет?
Чую надвигается мировой кризис, такой же как с микрочипами, только теперь с памятью. Уже можно покупать акции компаний производящие накопители?🤔
Хранить не проблема. Проблема, что новые сети будут обучаться на сгенерированном старыми. Плохие картинки и тексты будут основой. Пластмассовый мир победит.
Какая же это многогранная проблема все таки
ИИ будет перезаписывать всё, что было создано в его базе по данному запросу до текущей задачи.