Форум для программистов Stack Overflow временно запретил публиковать ответы, сгенерированные через ИИ-бота от OpenAI

Многие из них походили на правдивые, но часто оказывались неправильными и «вредили» тем самым сайту и пользователям, сообщила компания.

  • Количество таких советов исчислялось тысячами. Окончательное решение платформа примет после внутренних обсуждений, а также разговора с сообществом форума.
  • ChatGPT — чат-бот на основе нейросети GPT-3.5 от разработчиков OpenAI. Демоверсию инструмента опубликовали 1 декабря 2022 года: можно попросить ИИ написать песню, предложить идеи для празднования дня рождения, рассказать, как составить HTTP-запрос на Javascript, или найти ошибки в коде.
  • Часть пользователей заметила, что ИИ выдаёт «удовлетворительные, но неверные ответы», пишет The Verge. Да, языковые модели обучают на больших объёмах текстов, тренируют их искать в них статистические закономерности. Но им не дают «жёстких правил» генерации, поэтому, по словам издания, нейросеть нередко и «выдаёт правдоподобную ахинею».
  • Читатели Stack Overflow и новостного агрегатора Hacker News позитивно отреагировали на запрет форума. Но предположили, что в случае отмены запрета модераторам всё равно будет трудно отличать пользовательские советы от тех, что сгенерировала нейросеть. Сама компания не уточняла, как может это делать.
  • В июне 2022 года GitHub открыла доступ к своему ИИ-сервису Copilot — это «напарник программиста»: он просматривает код, комментарии к нему и расположение курсора, а затем предлагает добавить одну или несколько строк в зависимости от контекста. С помощью этого инструмента GitHub написала треть кода своей платформы.
2525
58 комментариев

нейросеть нередко и «выдаёт правдоподобную ахинею»

вполне себе человеческий скилл

56
Ответить

Тогда при виде такого ответа можно понять, что нейросеть перестаралась)

Ответить

100% всё потому, что они там сами тренят AI на базе ответов пользаков, а как показывает опыт, AI очень быстро может насрать такую кучу треша, что их данные резко потеряют в качестве

27
Ответить

Комментарий недоступен

16
Ответить

Есессно. По-моему, Стэк Оверфлоу даже упоминался в источниках обучения сетки.

1
Ответить

Можно примеры работы робота?

1
Ответить

Этот пост и комменты к нему

41
Ответить