Разбивая надежды преподавателей, OpenAI списывает свой классификатор ИИ из-за низкой точности.
В январе производитель искусственного интеллекта OpenAI анонсировал инструмент, который может спасти мир — или, по крайней мере, сохранить здравомыслие профессоров и учителей — путем определения того, был ли фрагмент контента создан с использованием генеративных инструментов искусственного интеллекта, таких как собственный ChatGPT.
Полгода спустя этот инструмент мертв, убит, потому что не может делать то, для чего был разработан.
Создатель ChatGPT OpenAI тихо отключил свой инструмент обнаружения ИИ, AI Classifier, на прошлой неделе из-за «его низкого уровня точности», заявила фирма. Ссылка на классификатор OpenAI больше недоступна.
«Мы работаем над тем, чтобы учесть отзывы, и в настоящее время изучаем более эффективные методы происхождения текста и взяли на себя обязательство разработать и внедрить механизмы, которые позволят пользователям понять, создан ли аудио- или визуальный контент с помощью ИИ», — пишет OpenAI.
Новые инструменты, позволяющие использовать все более изощренный ИИ, появляются в сети почти ежедневно и создали кустарную индустрию детекторов ИИ.
OpenAI объявила о запуске своего классификатора ИИ, утверждая, что он может различать текст, написанный человеком, и текст, написанный ИИ. Однако даже тогда OpenAI назвал классификатор «не полностью надежным», добавив, что оценки «проблемного набора» английских текстов правильно идентифицировали 26% написанного ИИ текста как «вероятно написанного ИИ», в то время как написанный человеком текст ошибочно помечен как написанный ИИ в 9% случаев.
Одним из секторов, который остро заинтересован в точном обнаружении ИИ, является образование. С момента запуска ChatGPT в ноябре преподаватели бьют тревогу по поводу того, что учащиеся используют чат-бот для написания эссе.
«Мы признаем, что идентификация текста, написанного ИИ, была важным предметом обсуждения среди преподавателей, и не менее важно признать ограничения и влияние классификаторов текста, созданных ИИ, в классе», — заявила OpenAI, добавив, что компания будет продолжать расширять охват по мере обучения.
А если вам еще больше интересна тема ИИ, вы хотите знать больше и не пропускать новинки и обзоры, подпишитесь на канал в тг, мне будет приятно -
Есть прекрасные программы обнаружения ИИ от других производителей.
Просто ИИ который не смог