Последствия ряда исков с участием ИИ: Крупные страховщики США отказываются покрывать риски ИИ
Крупные страховые компании в США предупреждают: риски, связанные с использованием искусственного интеллекта, стремительно растут и становятся слишком непредсказуемыми, чтобы страховать их на прежних условиях. Как сообщает Financial Times, такие гиганты, как AIG, Great American и WR Berkley, просят регуляторов разрешить им исключать ИИ-сценарии из корпоративных страховых полисов.
Причина — резкий рост количества инцидентов, в которых алгоритмы приводят к юридическим, финансовым и репутационным потерям, а сами модели при этом остаются «чёрными ящиками», поведение которых невозможно полностью контролировать или объяснить. Страховщики опасаются не одного крупного убытка, а серии массовых обращений, которые могут быть вызваны сбоем сразу в нескольких системах, использующих одну и ту же модель.
Недавние инциденты лишь усилили тревогу. Весной Google столкнулась с коллективным иском на 110 миллионов долларов после того, как её функция AI Overview выдала пользователю недостоверный медицинский совет, который затем распространился в соцсетях и стал предметом судебного разбирательства.
Не менее показателен случай Air Canada. Авиакомпания была вынуждена признать обязательным скидочный тариф, который… придумал её собственный чат-бот. Пассажир запросил компенсацию, бот выдал неверную информацию о льготных условиях, и суд обязал Air Canada выполнить обещание, данное автоматически сгенерированным ответом.
Ещё один тревожный пример — мошенническая атака с использованием deepfake, в ходе которой преступники создали цифровой двойник топ-менеджера инженерной фирмы и убедили сотрудников перечислить 25 миллионов долларов. Подделка была настолько убедительной, что прошла все внутренние проверки.
Крупные страховщики подчёркивают: их основная проблема — не отдельные громкие эпизоды, а потенциальная синхронность сбоев. Если один и тот же широко используемый ИИ-модуль ошибётся в схожей ситуации у тысяч компаний, поток обращений может стать непрогнозируемым. Для страхового рынка это означает риск цепной реакции, где один технический сбой превращается в многоуровневый финансовый кризис.
Последствия для компаний могут быть ощутимыми. Если страховая отрасль начнёт массово исключать ИИ-риски из корпоративных полисов, компаниям придётся либо разворачивать модели гораздо осторожнее, либо закладывать дополнительные бюджеты на возможные убытки. Это может замедлить внедрение ИИ в ряде отраслей и одновременно усилить давление на регуляторов: компании ожидают, что государственные органы предложат более чёткие стандарты ответственности, прежде чем страхование подобных рисков станет невозможным.
Пока же страховой рынок даёт сигнал, который заметно контрастирует с оптимистичными презентациями крупных технологических компаний и громкими заявлениями их руководителей: вместе с преимуществами ИИ несёт собой набор рисков, и многие из них остаются неразрешёнными.