ChatGPT ban
Использование ChatGPT на Stack Overflow временно запрещено.
Use of ChatGPT generated text for content on Stack Overflow is temporarily banned.
Есть много проблем с ответами ChatGPT, но для меня главная проблема заключается в том, что они выглядят так, как будто они могут быть хорошими ответами (те, которые я видел, были красиво написаны), но полагаясь только на статистический метод, они могут очень , очень легко быть совершенно неверным.
There are many issues with ChatGPT answers but for me the main issue has been that they look like they might be good answers, (the ones I have seen have been beautifully written), but relying as they do merely on a statistical method they can very, very easily be completely incorrect.
Департамент образования Нью-Йорка объявил о запрете использования чрезвычайно популярного чат-бота ChatGPT, который, как предупреждают некоторые, может вдохновить учащихся на мошенничество, на школьных устройствах и в сетях.
New York City’s Department of Education announced a ban on the wildly popular chatbot ChatGPT — which some have warned could inspire more student cheating — from its schools’ devices and networks.
Уже есть инструменты определения того что текст сгенерирован ChatGPT.
Для написания академический статей с помощью ChatGPT тоже бан.
One of the world’s most prestigious machine learning conferences has banned authors from using AI tools like ChatGPT to write scientific papers, triggering a debate about the role of AI-generated text in academia.
Это ожидаемо, как водится идет большая дискуссия.
Одни топят за то что большие языковые модели (LLMs) это будущее. Другие обеспокоены возможными последствиями.
Однозначного ответа не будет, нужно учитывать как позитивный импакт LLMs так и проблемы.
Самая большая проблема это недостоверность, неточность и неактуальность полученной информации. Поисковые системы формируют выдачу по запросу в виде множества ссылок/снипетов, пользователь сам выбирает, что релевантно, что нет. Чат бот может этот выбор упростить, но это упрощение чревато негативными последствиями. Более того, это может быть не просто упрощение но и прямое влияние, продвижение той или иной информации.
Прогресс не остановить, подобные системы будут развиваться и улучшаться. Их использование должно всесторонне изучаться и анализироваться. Текущий бан - адекватная реакция со стороны организаций и сообществ.
Как я и писал в другом посте, результат работы нейросети низкого качества, плюс нет адекватной человеческой дискуссии. При чем, не зря для принятия решений применяют три-четыре различных точки зрения от разных людей. Поэтому считаю что качество контента в сети будет падать а значимость закрытых или полузакрытых сообществ с исключительно человекогенерируемым контентом будет рости.