Форум для программистов Stack Overflow временно запретил публиковать ответы, сгенерированные через ИИ-бота от OpenAI Статьи редакции
Многие из них походили на правдивые, но часто оказывались неправильными и «вредили» тем самым сайту и пользователям, сообщила компания.
- Количество таких советов исчислялось тысячами. Окончательное решение платформа примет после внутренних обсуждений, а также разговора с сообществом форума.
- ChatGPT — чат-бот на основе нейросети GPT-3.5 от разработчиков OpenAI. Демоверсию инструмента опубликовали 1 декабря 2022 года: можно попросить ИИ написать песню, предложить идеи для празднования дня рождения, рассказать, как составить HTTP-запрос на Javascript, или найти ошибки в коде.
- Часть пользователей заметила, что ИИ выдаёт «удовлетворительные, но неверные ответы», пишет The Verge. Да, языковые модели обучают на больших объёмах текстов, тренируют их искать в них статистические закономерности. Но им не дают «жёстких правил» генерации, поэтому, по словам издания, нейросеть нередко и «выдаёт правдоподобную ахинею».
- Читатели Stack Overflow и новостного агрегатора Hacker News позитивно отреагировали на запрет форума. Но предположили, что в случае отмены запрета модераторам всё равно будет трудно отличать пользовательские советы от тех, что сгенерировала нейросеть. Сама компания не уточняла, как может это делать.
- В июне 2022 года GitHub открыла доступ к своему ИИ-сервису Copilot — это «напарник программиста»: он просматривает код, комментарии к нему и расположение курсора, а затем предлагает добавить одну или несколько строк в зависимости от контекста. С помощью этого инструмента GitHub написала треть кода своей платформы.
5
показов
9.7K
открытий
вполне себе человеческий скилл
Тогда при виде такого ответа можно понять, что нейросеть перестаралась)
100% всё потому, что они там сами тренят AI на базе ответов пользаков, а как показывает опыт, AI очень быстро может насрать такую кучу треша, что их данные резко потеряют в качестве
Комментарий недоступен
Есессно. По-моему, Стэк Оверфлоу даже упоминался в источниках обучения сетки.
Можно примеры работы робота?
Этот пост и комменты к нему
Вчера в телеге задавал вопрос, ответил красиво, верно.
https://docs.mongoengine.org/apireference.html#mongoengine.fields.ReferenceField - примечательно в самой доке об этом поле не указано, как и в docstring класса. В доке есть упоминание поля db_field, но для других полей и не в контексте моего вопроса/нужного функционала.
На Хабре статья про возможности OpenAI
Советую ознакомиться))
https://habr.com/ru/post/703380/
По-моему, они просто боятся конкуренции. И не зря - я тоже долго залипал в чатгпт, смотрел и чужие результаты, и инструмент реально мощный. И рабочий код напишет, и историю придумает, и сложные концепции умеет объяснять, я уже молчу о банальной генерации текста для сайтов.
Но, конечно, нет пока 100% точности, где-то он будет ошибаться или выдавать "неправильный" ответ. Я, например, лично "разводил" его на методы борьбы против государства (в том числе насильственные) и легкие анти-ЛГБТ высказывания.
Если запрос сложнее бубле сорта то большая вероятность, что код будет рабочий, но очень неэффективный, таким кодом задачу не решить, а что пошло не так ещё попробуй найди. Поэтому все правильно запретили. На стэковерфлоу нужны ответы не сломающие проект, такие пока могут дать только эксперты + используемые платформой алгоритмы ранжирования, позволяющие новые более актуальные ответы показывать в приоритете.
Так ведь статистически и правда похоже на поведение человека. Вероятность нахождения 100% правого человека стремится к нулю (хотя конечно отлична от нуля).
Но я сомневаюсь, что кто-то найдёт «100% безошибочного человека».
Отличный бот, раз понимает в герилье!
Комментарий недоступен
Ты же понимаешь, что сетка отвечает на вопросы со Stack Overflow текстами, которым ее обучили по Stack Overflow?
Проблема в том что все более-менее нормально работает только на простых вопросах - по сути это то же самое что просто сделать запрос в гугле, сама нейросет ьже на таких результатах и училась. А вот на чем-то более специфичном она часто ошибается.
Есть надежда, что оставят возможность публикации ответов только от людей?
Конечно, если только они докажут что они не роботы...
Видимо джуниороа еще рано отменять )
Интересно, что будет, если обучить нейросеть на ответах, которые нагенерит нейросеть?
Такая сракотень, скорей всего….
На виси в комментах тусят несколько нейросетей, можно попробовать с ними поиграться
как равно что чеез гугл переводчик перевести на китайский а потом обратно на русский
🤡
Просто помечайте "ответ сгенерирован ChatGPT"
И добавить опцию в аккаунт - "никогда не показывать этот тег"
Использование Open AI для ответов на вопросы stackoverflow может быть хорошо по нескольким причинам. Во-первых, это может улучшить точность и релевантность ответов, так как Open AI использует нейросетевые модели, которые способны анализировать большое количество данных и предсказывать наиболее вероятные ответы. Во-вторых, Open AI позволяет автоматизировать часть работы модераторов, что освобождает их время для других задач. И в-третьих, Open AI может увеличить скорость ответов, что сделает сайт stackoverflow более полезным для пользователей, которые ищут быстрые решения их проблем.
Чистый стиль мейнстримных медиа
Лови бота
Лол, это напоминает набеги рыжей доски на сайт с вопросами школьников. Теорема Сосницкого
"Теорема Сосницкого" - это какой-то завуалированный пошлый прикол?
Я могу уточнить: никак не может.
по русски разговаривает, любой вопрос задай обо всем знает
Обычные пользователи интернета: "Да неужели?!"
"а расскажи про теорию струн на... простом примере"
выдыхаем, ИИ пока еще не сможет заменить человека
Жаль что они до сих пор не знаю поговорки "С кем поведешься, того и наберёшься"
Классная статья