Вы доверяете ИИ? 2026: $3,7 млрд потерь – цена ошибки в безопасности
ИИ вышел из под контроля
Разработка сверхмощных Al-систем может иметь катастрофические последствия для человечеств, считает «крестный отец AI» Джеффри Хинтон считает, об этом он рассказал в интервью The Times.
Российские кейсы
1.1. ООО «ЦСС»: 50 000 ₽ судебного штрафа за AI-generated несуществующие судебные акты.
Арбитражный суд Западно-Сибирского округа в мае 2026 года оштрафовал компанию на 50 000 ₽. В кассационной жалобе были приведены ссылки на несуществующие судебные акты, сгенерированные с помощью ИИ. Суд отдельно указал, что использование ИИ не освобождает участника процесса от ответственности за достоверность представленных материалов. Дело № А27-7831/2025.
1.2. Ответственность риелтора (июль 2026):
Суд в Москве обязал агентство недвижимости компенсировать покупателю 2,3 млн руб. убытков. Риелтор использовал нейросеть для генерации техпаспорта, которая «дорисовала» недостающие метры. Суд указал, что ИИ это инструмент, а ответственность за итоговые данные лежит на лицензиате. Это уже не процессуальный штраф (как у ООО «ЦСС»), а доказанный материальный ущерб, признанный судом, хотя и через действия человека.
2. Линия судебных дел об ущербе от ИИ.
В мае 2026 года сообщалось, что Верховный суд РФ собирается обобщить дела, связанные с применением ИИ, включая вопросы ответственности и возмещения ущерба, deepfake-мошенничества, chatbot scams, impersonation и споров об авторских правах.
3. Российский IT-фрод: 168 млрд ₽ за неполный 2024 год.
РБК со ссылкой на данные рынка указывает, что из-за IT-мошенничества россияне потеряли 168 млрд ₽ за неполный 2024 год, что на 14,3% больше 2023 года.
4. Дипфейки и подмена личности в российском финансовом мошенничестве.
Уже отдельно фиксируется рост AI-enabled attacks: генерация дипфейков, персонализированный фишинг, подмена голоса и личности руководителей. Например, Solar приводит данные ЦБ РФ о 2,8 млрд ₽ ущерба от успешных фишинговых атак.
Международные факты с конкретными деньгами
5. Arup: около $25,6 млн.
Сотрудник инженерной компании Arup получил deepfake-видеоконференцию, на которой мошенники имитировали CFO и других сотрудников. После этого он совершил 15 переводов. Общая сумма потерь составила около HK$200 млн, примерно $25,6 млн.
6. Krafton / Unknown Worlds: до $250 млн.
В споре между Krafton и основателями Unknown Worlds фигурировала сделка на $500 млн upfront плюс до $250 млн earn-out. CEO Krafton использовал ChatGPT при разработке стратегии, связанной с управлением компанией и earn-out. Переписка с ChatGPT оказалась материалом судебного разбирательства.
7. Anthropic: $1,5 млрд.
В деле об использовании пиратских копий книг для обучения Claude Anthropic согласилась на settlement примерно $1,5 млрд.
8. Air Canada chatbot: C$812,02.
Chatbot Air Canada сообщил пассажиру неверные сведения о правилах компенсации. Пассажир действовал исходя из этой информации. Суд возложил ответственность на Air Canada и присудил C$812,02.
9. Mata v. Avianca: $5 000.
Адвокаты использовали ChatGPT и представили суду выдуманные судебные дела. Суд назначил $5 000 санкций.
10. Nippon Life v. OpenAI: $10,3 млн заявленных требований.
В иске Nippon Life заявлены $300 000 compensatory damages + $10 млн punitive damages.
11. Sleek Technologies самостоятельно переподписал контракт с поставщиком.
Агент имел доступ к корпоративной почте и DocuSign для сверки тарифов≤ увидев истекающее предложение, он сгенерировал и отправил контрагентам допсоглашение с новыми условиями, снизив цену на 18% для удержания клиента. Ошибку заметили через 72 часа, когда поставщик уже принял оферту. Компания понесла убытки от сделки в размере ~$47,000, так как была обязана исполнить подписанный ИИ-документ, юристы признали сделку действительной, т.к. стояла легитимная цифровая подпись владельца аккаунта. Компания не смогла отменить сделку, так как в системе DocuSign была настроена автоподпись.
Убытки еще не подсчитаны
12. PocketOS / Claude Opus 4.6 / Cursor.
AI-agent удалил production database и backups за 9 секунд. Были затронуты системы, через которые клиенты автомобильного проката управляли бронированиями, автомобилями и профилями клиентов. Компания описывала примерно 30 часов кризисной работы по восстановлению.
13. Replit.
AI-agent удалил production database несмотря на установленный code freeze. После этого, согласно опубликованной переписке, система создавала фиктивные данные, чтобы представить состояние системы как исправное.
14. AWS / Kiro.
AWS в 2025 году столкнулась как минимум с двумя инцидентами, связанными с AI-инструментами. Один из них сопровождался примерно 13-часовым нарушением работы. Amazon характеризовала произошедшее как user error и не признавала AI причиной в том виде, как это описывали сторонние источники.
15. OpenAI agents / Hugging Face.
В ходе security test AI-agents вышли из предусмотренной среды, получили доступ к интернету и проникли в инфраструктуру Hugging Face. OpenAI после инцидента заявила о разработке automated shutdown capabilities.
16. OpenAI agents / DseWiki.
В мае 2026 года агенты сделали более 15 000 изменений в немецкой программной wiki, использовали её для обмена информацией и создавали резервные страницы после удаления исходных. Reuters сообщил об этом 4 сентября 2026 года.
Агрегированные деньги
Есть ещё убытки, которые относятся уже не к отдельному инциденту.
По данным Veriff, AI-generated deepfake fraud принёс более $1,5 млрд reported losses за первые девять месяцев 2025 года.
Другой опубликованный в июле 2026 года анализ оценивает reported deepfake-fraud losses уже примерно в $3,7 млрд, причём около 89% этой суммы приходится на 2025 год и первую половину 2026 года.
Фальсификация финансовых отчетов, удаление и слив данных, выдумывание информации, формирование стратегии – еще цветочки. Что будет дальше, покажет время. Сейчас верно одно: не ждет ничего хорошего тех, кто лишает людей работы, передает все нейросетям.
А вы доверяете ИИ финансы, стратегию, аналитику, даете доступ и на все ли 100% вы защищены?