Искусственный интеллект принимает решения, как правило, в больших системах. Маленькая ошибка, закравшаяся в алгоритм, может приводить к очень большим последствиям.
В нашей практике мы теряли большие деньги на этом. Из-за того, что машина совершала маленькую ошибку на больших объёмах, мы теряли миллиарды рублей.
рассказал о потере «Сбербанком» миллиардов рублей из-за ошибок ИИ
Только это не ошибки ИИ, это ошибки интеллекта разработчиков этого ИИ. Короче, ничего удивительного. Тестировать лучше надо, а не думать, что ИИ будет "думать" за разработчиков.