Форум для программистов Stack Overflow временно запретил публиковать ответы, сгенерированные через ИИ-бота от OpenAI
Многие из них походили на правдивые, но часто оказывались неправильными и «вредили» тем самым сайту и пользователям, сообщила компания.
- Количество таких советов исчислялось тысячами. Окончательное решение платформа примет после внутренних обсуждений, а также разговора с сообществом форума.
- ChatGPT — чат-бот на основе нейросети GPT-3.5 от разработчиков OpenAI. Демоверсию инструмента опубликовали 1 декабря 2022 года: можно попросить ИИ написать песню, предложить идеи для празднования дня рождения, рассказать, как составить HTTP-запрос на Javascript, или найти ошибки в коде.
- Часть пользователей заметила, что ИИ выдаёт «удовлетворительные, но неверные ответы», пишет The Verge. Да, языковые модели обучают на больших объёмах текстов, тренируют их искать в них статистические закономерности. Но им не дают «жёстких правил» генерации, поэтому, по словам издания, нейросеть нередко и «выдаёт правдоподобную ахинею».
- Читатели Stack Overflow и новостного агрегатора Hacker News позитивно отреагировали на запрет форума. Но предположили, что в случае отмены запрета модераторам всё равно будет трудно отличать пользовательские советы от тех, что сгенерировала нейросеть. Сама компания не уточняла, как может это делать.
- В июне 2022 года GitHub открыла доступ к своему ИИ-сервису Copilot — это «напарник программиста»: он просматривает код, комментарии к нему и расположение курсора, а затем предлагает добавить одну или несколько строк в зависимости от контекста. С помощью этого инструмента GitHub написала треть кода своей платформы.
нейросеть нередко и «выдаёт правдоподобную ахинею»
вполне себе человеческий скилл
Тогда при виде такого ответа можно понять, что нейросеть перестаралась)
100% всё потому, что они там сами тренят AI на базе ответов пользаков, а как показывает опыт, AI очень быстро может насрать такую кучу треша, что их данные резко потеряют в качестве
Комментарий недоступен
Есессно. По-моему, Стэк Оверфлоу даже упоминался в источниках обучения сетки.
Можно примеры работы робота?
Этот пост и комменты к нему