Исследователи задались вопросом: возможно ли определить, кто написал текст: искусственный интеллект или человек? Они пришли к выводу, что текст, созданный с помощью LLM, невозможно надежно идентифицировать в практических сценариях как с теоретической, так и с практической точки зрения.
Были проведены различные исследования, в которых были рассмотрены современные методы обнаружения, уже доступные на рынке. Оказалось, что даже простая "перефразирующая атака" достаточна, чтобы обмануть эти методы.
В худшем случае, перефразирование может снизить точность обнаружения LLM с 97% до 50%. Это означает, что детектор будет работать не лучше, чем случайные классификаторы или бросание монеты.
Нам просто нужно принять тот факт, что мы никогда не сможем достоверно сказать, был ли текст написан человеком или искусственным интеллектом