Ars Technica уволила журналиста за статью со сгенерированными цитатами разработчика — тот объяснил, что в его блоге стояла защита от парсинга
Издание принесло извинения и заявило, что это единичный случай на сайте.
Сгенерированные цитаты в статье. Источник: The Shamblog
- Издание Ars Technica уволило старшего редактора по теме искусственного интеллекта Бенджа Эдвардса после публикации с цитатами, выдуманными ChatGPT.
- Это была статья о «вирусном» инциденте, когда ИИ-агент обвинил разработчика в дискриминации ботов. Он сам написал и опубликовал «разоблачение» куратора Python-библиотеки Скотта Шамбо после того, как тот отклонил его запрос на исправление кода.
- Шамбо описал случай в своём блоге, и, по его словам, с ним связалось несколько изданий. Ars Technica среди них не было, но оно тоже выпустило статью.
- Как указал Шамбо, в ней было много выдуманных цитат якобы с его страницы, которых на самом деле он не публиковал. Дело в том, что в блоге стоит защита от парсинга — если журналисты использовали чат-ботов, они, вероятно, прислали им «галлюцинации» вместо цитат, предположил разработчик.
ИИ-агенты могут изучать людей, создавать персонализированные профайлы и публиковать их в интернете. Даже если эти факты неточны или преувеличены, они могут стать достоянием общественности.
- Главный редактор издания Кен Фишер подтвердил, что статья содержала «сфабрикованные цитаты, сгенерированные ИИ-инструментом», и принёс извинения.
- Эдвардса уволили, как подтвердили журналу Futurism в Ars Technica. Тот тоже опубликовал пост с извинениями и взял «полную ответственность» за выдуманные фрагменты — материал он писал в соавторстве.
Журналист рассказал, что заболел и работал из постели с высокой температурой, поэтому попробовал «экспериментальный инструмент на базе Claude Code» для структуры и списка источников. Тот не сработал. Эдвардс решил спросить у ChatGPT причину, но в ходе диалога получил и цитаты якобы из блога Шамбо, которые вставил в статью.
28 комментариев