$290 000 за отчет сгенерированный ИИ

На днях международная аудиторская и консалтинговая корпорация Deloitte признала использование ИИ при подготовки отчёта для Департамента занятости и трудовых отношений Австралии.

Первоначальная версия документа была опубликована еще в июле и содержала ряд грубейших ошибок: несуществующие академические ссылки, выдуманная цитата из решения Федерального суда, а также неправильно написанное имя судьи.

В исправленной версии появилась ссылка на использование языковой модели Azure OpenAI GPT-4o, однако подтверждать, что ошибки стали следствием использования ИИ, в компании не стали. Тем не менее, решение частично возместить потраченные средства всё таки было принято.

Иронично, что в отчёте, посвящённом эффективности работы IT-систем для автоматизации штрафов получателям социальных пособий, Deloitte критиковали правительство Австралии за излишнюю (как вы думаете?) автоматизацию. Неловко и то, что существенную часть своей выручки компания зарабатывает на консультациях по ИИ в ходе которых регулярно хвастается широким использованием технологии, но подчёркивает необходимость человеческой проверки любого вывода ИИ.

P.S. Помимо банального вывода о необходимости тщательной проверки фактов при работе с генеративными моделями хочется напомнить о концепции "разумного недоверия" и к традиционным источникам, степень надежности которых вы не в силах оценить.

В российском интернет пространстве СМИ видимо забыли, что доллары существуют не только в США, но и в других странах (в том числе и в Австралии). В связи с чем вы могли видеть заголовки, в которых сумма "сделки" равнялась $440 тыс. долларов.

Подписывайтесь на мой канал в телеграм. Тут обсуждаем актуальные новости, вопросы экономики и финансовой грамотности.