Ответственность за ошибки нейросетей 2
Консультанты из Делойта снова сдали заказчику отчет, который писала нейросеть.
В первом случае Делойт делал для правительства Австралии исследование о социальных выплатах. В итоговый отчёт попала дичь, нагаллюционированная нейросетью, из-за чего пришлось вернуть часть оплаты — $290 тыс.
Второй случай — снова отчет о социальных выплатах, уже для правительства Албании, снова галлюцинации нейросети (одни и те же промпты использовали?). Цена галлюцинаций составила $440 тыс.
Некий албанский сенатор заявил, что
У консультантов проблема не с искусственным, а с человеческим интеллектом ("human intelligence problem"
Что ж. Думаю, что чем дальше, тем чаще изготовление документов, которые предназначены не для того, чтоб их читали, а для того, чтоб они формально были, будет скидываться на нейросети.