Детекторы ИИ несправедливо обвиняют студентов в мошенничестве — с серьезными последствиями

Примерно две трети преподавателей регулярно используют инструменты для выявления контента, сгенерированного искусственным интеллектом. Однако даже небольшая погрешность этих систем может привести к серьезным последствиям для студентов.

После перерыва в обучении из-за пандемии, Моира Олмстед вернулась в университет, одновременно работая и заботясь о маленьком ребенке. В 2023 году, будучи на седьмом месяце беременности, она записалась на онлайн-курсы в Университете Центрального Методиста, чтобы стать учителем. Однако через несколько недель её работа была оценена на ноль, и преподаватель сообщил, что текст был отмечен системой как сгенерированный искусственным интеллектом.

Для Олмстед, которая также страдает аутизмом и использует структурированный стиль письма, обвинение стало настоящим ударом. Несмотря на то, что её оценка была пересмотрена, ей выдали строгое предупреждение: если подобное случится снова, её работа будет рассматриваться как плагиат.

С момента выхода ChatGPT в 2022 году, учебные заведения начали активно адаптироваться к новым условиям, используя различные инструменты для выявления текстов, созданных ИИ. По данным опроса Центра демократии и технологий, около 66% преподавателей регулярно проверяют работы студентов с помощью таких сервисов. Однако эти инструменты не всегда работают идеально.

Тесты показали, что даже самые продвинутые детекторы ИИ, такие как GPTZero и Copyleaks, иногда ошибаются. Например, в исследовании Businessweek, когда проверялись 500 эссе, поданных в Техасский университет, 1-2% работ были ошибочно отмечены как написанные ИИ. Это может иметь катастрофические последствия для студентов, особенно если их стиль письма отклоняется от стандартов.

Чаще всего под подозрения попадают студенты с нейродивергентностью, те, для кого английский язык не является родным, или те, кто использует простой и структурированный стиль письма. Например, в исследовании Стэнфордского университета было установлено, что 50% работ студентов, не являющихся носителями английского языка, были помечены как сгенерированные ИИ. Это показывает, что система может ошибочно наказывать тех, кто использует язык или стиль, который кажется слишком "формальным" или "механическим".

Помимо ошибок в обнаружении, ИИ-детекторы могут быть обмануты другими программами, которые «очеловечивают» текст, созданный искусственным интеллектом. Это создаёт гонку технологий, где студенты и преподаватели вынуждены искать новые способы защиты и проверки. Студенты начинают бояться использовать популярные инструменты вроде Grammarly, опасаясь, что их работы могут быть ошибочно признаны ИИ-генерированными.

Некоторые студенты, как и Олмстед, начали записывать процесс своей работы, чтобы иметь доказательства её подлинности. Другие тратят время на редактирование текста, чтобы не быть ошибочно обвинёнными в использовании ИИ, что ухудшает качество их работы и снижает мотивацию к обучению.

Пока образовательные учреждения продолжают использовать ИИ-детекторы, проблема ложных обвинений остается актуальной. Учителя и студенты сталкиваются с напряженностью, которая подрывает доверие и усложняет образовательный процесс. Вопрос теперь стоит не в том, используют ли студенты ИИ, а как правильно взаимодействовать с ним.

Вместо того, чтобы полагаться исключительно на детекторы, некоторые преподаватели предлагают вести открытые обсуждения со студентами и оценивать их работы более гибко, основываясь на интуиции и личных наблюдениях.