Форум для программистов Stack Overflow временно запретил публиковать ответы, сгенерированные через ИИ-бота от OpenAI Статьи редакции

Многие из них походили на правдивые, но часто оказывались неправильными и «вредили» тем самым сайту и пользователям, сообщила компания.

• Количество таких советов исчислялось тысячами. Окончательное решение платформа примет после внутренних обсуждений, а также разговора с сообществом форума.
• ChatGPT — чат-бот на основе нейросети GPT-3.5 от разработчиков OpenAI. Демоверсию инструмента опубликовали 1 декабря 2022 года: можно попросить ИИ написать песню, предложить идеи для празднования дня рождения, рассказать, как составить HTTP-запрос на Javascript, или найти ошибки в коде.
  
• Часть пользователей заметила, что ИИ выдаёт «удовлетворительные, но неверные ответы», пишет The Verge. Да, языковые модели обучают на больших объёмах текстов, тренируют их искать в них статистические закономерности. Но им не дают «жёстких правил» генерации, поэтому, по словам издания, нейросеть нередко и «выдаёт правдоподобную ахинею».
• Читатели Stack Overflow и новостного агрегатора Hacker News позитивно отреагировали на запрет форума. Но предположили, что в случае отмены запрета модераторам всё равно будет трудно отличать пользовательские советы от тех, что сгенерировала нейросеть. Сама компания не уточняла, как может это делать.
• В июне 2022 года GitHub открыла доступ к своему ИИ-сервису Copilot — это «напарник программиста»: он просматривает код, комментарии к нему и расположение курсора, а затем предлагает добавить одну или несколько строк в зависимости от контекста. С помощью этого инструмента GitHub написала треть кода своей платформы.

#новость #искусственныйинтеллект #openai #stackoverflow