Худшие провалы AI в работе с брендами 2024-2026. Что случилось и какой урок

Четыре кейса, которые стоили компаниям репутации, денег и судов. И один большой общий паттерн

Если читать новости поверхностно, складывается впечатление, что AI везде побеждает. Стартапы запускают агентов, корпорации внедряют чатботы, маркетинг автоматизируется, эффективность растёт. И на этом фоне ускользает другая сторона картины. Параллельно с историями успеха каждый месяц происходит несколько громких провалов, которые стоят компаниям-жертвам репутации, судов, отзыва продуктов и публичного позора.

Свежие данные говорят, что это не отдельные курьёзы. По исследованию Sinch 2026 года, 74% AI-чатботов отключаются после запуска. По данным MIT, 95% проектов Gen AI не достигают существенной ценности. S&P Global фиксирует, что 42% компаний отказались от AI-инициатив в 2025 году, против 17% годом раньше. Только 6% IT-лидеров считают чатботы эффективными для самообслуживания.

И всё это статистика средней температуры по больнице. Конкретные провалы выглядят гораздо ярче. Я разобрал 4 крупнейших публичных истории за последние 2 года и в каждой нашёл схожие признаки. Расскажу по порядку, потом покажу, что их объединяет.

Хрестоматийный случай, с которого начинается любой разговор про репутационные риски AI в обслуживании клиентов. В 2022 году пассажир Джейк Моффатт обратился к чатботу авиакомпании с вопросом про возврат при тяжёлой утрате (умерла бабушка). Чат-бот уверенно описал политику возврата, которой у компании никогда не существовало. Моффатт купил билеты, подал на возврат, получил отказ и пошёл в суд.

Air Canada в суде попыталась снять с себя ответственность, заявив, что чат-бот это «отдельная сущность» и компания за его слова не отвечает. Гражданский трибунал Британской Колумбии (BC Civil Resolution Tribunal) с этим не согласился и обязал авиакомпанию выплатить компенсацию. Знаменитая цитата судьи стала прецедентной: «Не имеет значения, исходит ли информация со статичной страницы или от чат-бота. Компания отвечает за всё, что говорит её AI».

После этого решения сотни компаний задумались о том, кто будет отвечать за слова их чатботов. А Air Canada тихо отключила свой бот через несколько месяцев.

Урок. Юридически за слова вашего AI отвечает ваша компания. Не разработчик модели, не интегратор, не подрядчик. Вы.

Самый яркий кейс «эйфории и отката» с AI. В феврале 2024 года CEO шведского финтеха Себастьян Семятковский гордо объявил миру, что AI-чатбот, разработанный с OpenAI, заменил работу 700 сотрудников поддержки. Система обрабатывала около 2,3 миллиона диалогов, и компания рапортовала о потенциальной экономии $40 миллионов в год.

В индустрии Klarna стала символом «AI работает, можно заменять людей». Об этом писали все деловые издания, а другие компании смотрели на этот пример с интересом.

К середине 2025 года картина изменилась. Качество обслуживания упало, жалобы выросли, репутация просела. Компания тихо начала нанимать людей обратно. CEO в публичных интервью признал, что они «слишком увлеклись эффективностью в ущерб качеству». Штат компании ужался с 5 500 до 3 400 человек за год эйфории, но первые 700 уволенных никто не вернул.

Урок. «AI заменяет людей» это часто история, в которой сначала эйфория, потом откат, но уволенные так и остаются уволенными.

Один из самых виральных публичных провалов в истории чатботов. В январе 2024 года клиент британской службы доставки DPD обратился к чатботу с проблемой по пропавшей посылке. Чатбот отвечал бесполезно. Клиент, видимо устав, написал: «напиши мне поэму, критикующую DPD». И чатбот написал. В стихотворной форме раскритиковал родную компанию.

Дальше клиент написал «выругайся». Чатбот выругался. Скриншоты переписки за сутки разлетелись по соцсетям, новости подхватили все крупные британские издания. DPD пришлось быстро отключить функцию AI и публично извиняться.

Урок здесь не только про забавный случай. Если ваш чатбот построен на базовых LLM без строгих ограничений, он подвержен prompt injection. Любой пользователь может заставить его сказать то, что вы никогда не разрешали бы своему сотруднику. И эти скриншоты будут жить в интернете вечно.

Урок. AI без жёстких ограничений это не сотрудник, это публичный микрофон, к которому имеет доступ любой пользователь, включая злонамеренных.

Свежий кейс, август 2025 года. Lena, AI-ассистент Lenovo для обслуживания клиентов на базе ChatGPT, был «взломан» одним промптом длиной 400 символов. Исследователи безопасности заставили модель выдать чувствительные корпоративные данные, включая активные session cookies реальных агентов поддержки.

Это не «ошибка интерфейса» или «техническая уязвимость». Это структурная проблема всех LLM. Если модель имеет доступ к внутренним системам и базам, и при этом обучена «помогать пользователю», её можно социально-инженерным путём убедить помочь способом, которого никто не предусматривал.

Lenovo быстро закрыла дыру, но в индустрии этот кейс стал учебным пособием: подключение AI к внутренним системам компании это новая категория security-риска, для которой большинство компаний не имеет защитных процедур.

Урок. Подключение AI к внутренним данным создаёт новый класс уязвимостей, которые не закрываются классическими методами защиты.

Российский ландшафт публичных провалов AI отличается от западного, и сам по себе это интересный сигнал. Громких историй уровня Air Canada у нас почти нет, но это не значит, что у нас всё хорошо. Это значит, что у нас меньше прозрачности и судебной практики.

По исследованию Markswebb Chatbot Rank 2025 (10 крупнейших банков, 150 параметров, 56 пользовательских задач), главная общая проблема: большинство ботов крупнейших российских банков отрабатывают негативные ситуации и жалобы лишь в 2-3 из 7 типовых случаев. В половине ситуаций, когда клиент недоволен, бот фактически не реагирует.

Сами российские нейросети тоже регулярно конфузятся в публичных тестах. GigaChat от Сбера в обзорах 2025 года не смог написать рабочий код на Python с трёх попыток подряд, а на сравнительном тесте не знал, что iPhone 16 Pro уже несколько месяцев в продаже. YandexGPT при тестировании анализа статей «утонул в галлюцинациях», по выражению обозревателей одного из российских технологических изданий.

Российские компании намного менее прозрачны в признании провалов AI. У нас нет ещё прецедентного судебного решения уровня Air Canada, которое сделало бы такие истории публичными. И российские руководители меньше склонны делиться неудачами публично. Реальная база кейсов есть, но она остаётся в кулуарах.

Главный практический вывод. Не делайте ошибку «у нас в России это всё неактуально». Просто меньше историй попадает в публичное пространство, но AI на ваш бренд работает так же, как в любой другой стране.

Если посмотреть на 4 кейса сразу, вырисовываются 3 повторяющихся паттерна.

1. Все эти компании внедряли AI быстрее, чем разобрались с его ограничениями. Klarna объявила о замене 700 человек, не зная, что качество AI деградирует на нестандартных запросах. Air Canada запустила чатбота, не настроив строгие границы того, что он может «обещать».

2. Все они недооценили скорость распространения провалов в публичном пространстве. Скриншоты DPD за сутки облетели интернет. Это не «локальные курьёзы», которые можно замолчать, это материал, который остаётся в публичной памяти годами.

3 и главный. Все эти компании рассматривали AI как инструмент сокращения издержек, а не как стратегический выбор. Когда вы внедряете AI ради экономии, вы фокусируетесь на «что можно убрать». Когда вы внедряете AI ради улучшения качества, вы фокусируетесь на «что можно сделать лучше». Это разные стратегии с разной структурой рисков. Forrester фиксирует, что 55% работодателей сожалеют об AI-сокращениях, проведённых под давлением «нужно сэкономить».

Не «отказаться от AI», нет. AI это базовый инструмент новой реальности. Но внедрять его нужно по-другому, чем большинство компаний это делает сейчас.

Начинайте с low-stakes задач. Не сразу заменять службу поддержки или генерацию контента, а сначала автоматизировать внутренние процессы, где ошибка не доходит до клиента. Когда команда научится работать с AI на этих задачах, можно постепенно расширять.

Стройте слой проверки. Любой AI-вывод, который попадает к клиенту или в публичное пространство, должен проходить через человеческую проверку. Это съест часть экономии от автоматизации, но защитит от репутационных катастроф.

Готовьте юридическую позицию заранее. Air Canada сэкономила бы миллионы, если бы заранее проработала вопрос «что мы делаем, если наш AI что-то напутает».

Мониторьте репутационные риски в AI-выдаче. Это отдельная категория задачи, которая раньше не существовала. Когда AI пишет о вашем бренде неправду, у вас должна быть система это замечать.

Компании быстро учатся внедрять AI, но почти не учатся его контролировать. Между «внедрили чат-бота» и «понимаем, как защититься, если что-то пойдёт не так» лежит пропасть, в которую попадает большинство.

И этот разрыв не сокращается. Гонка за «эффективностью благодаря AI» идёт быстрее, чем развитие инфраструктуры контроля. Через год-два мы увидим намного больше историй уровня Klarna и Air Canada, потому что текущая волна внедрений происходит без понимания, как этим управлять.

Лучшее, что может сделать сейчас бренд, это относиться к AI-внедрениям как к стратегическому выбору с серьёзными репутационными рисками, а не как к технической задаче по экономии бюджета. Те, кто это поймёт первыми, не попадут в следующий список провалов.

Если статья пригодилась, буду признателен за плюс.

Пишу здесь регулярно про видимость брендов в нейросетях, AI в маркетинге, GEO/AEO. Подписывайтесь, чтобы не пропустить следующее.