Нейросети поумнели, но врать меньше не стали. И теперь за их выдумки платит бизнес

Все ждут, что каждое новое поколение ИИ окажется надежнее прошлого. На деле новые «рассуждающие» модели нередко галлюцинируют чаще, а не реже, и придумывают факты так же уверенно, как раньше. Загвоздка в том, что суды уже решили: за вранье вашего чат-бота отвечает компания, а не нейросеть. Разбираем, почему выдумки ИИ стали статьей делового риска и что с этим делать, пока бот не пообещал вашему Клиенту то, чего вы давать не собирались.

Показательнее всего новую реальность описывает уже хрестоматийный случай с Air Canada. Пассажир спросил у чат-бота авиакомпании про скидку в связи с трауром, бот уверенно описал политику возврата, которой в реальности не существовало, а когда человек попытался получить обещанное и уперся в отказ, дошло до суда. Авиакомпания защищалась изящно: мол, чат-бот это отдельная сущность, которая сама отвечает за свои слова. Канадский трибунал эту логику отмел и постановил, что компания несет ответственность за все, что говорит ее бот, даже если тот ошибся. Прецедент считывается просто: развернул бота, отвечаешь за его выдумки как за свои. В другой истории дилер Chevrolet поставил на сайт бота на базе ChatGPT, и посетитель уговорил его продать новый внедорожник за 1 доллар, а бот еще и добавил, что сделка «юридически обязывающая». За шесть часов скриншот собрал 5 миллионов просмотров.

Единичными эти казусы давно быть перестали. Исследователь Дамьен Шарлотэн ведет базу судебных дел, связанных с выдуманным ИИ содержимым, и к середине 2026 года там уже около 1745 записей по всему миру. Число таких дел растет по экспоненте: 10 в 2023 году, 37 в 2024-м, 73 за первые пять месяцев 2025-го. Юристов штрафуют за иски со ссылками на несуществующие судебные решения, и первый квартал 2026 года поставил рекорд по числу таких санкций. Муниципальный чат-бот Нью-Йорка советовал предпринимателям действия, которые прямо нарушали закон. Демонстрация чат-бота Google с единственной фактической ошибкой в свое время обвалила капитализацию Alphabet примерно на 100 миллиардов долларов. По оценкам, галлюцинации ИИ обошлись бизнесу в 67 миллиардов долларов еще за 2024 год, а база ИИ-инцидентов за 2025-й зафиксировала 362 случая, на 55 процентов больше, чем годом ранее. Привычка считать выдумки нейросети милым багом закончилась, это статья реального риска.

Здесь кроется контринтуитивная вещь, которую полезно усвоить до того, как вы решите «дождемся модели поумнее, и проблема уйдет». Не уйдет. Новые рассуждающие модели, которые дольше «думают» перед ответом, во многих замерах галлюцинируют не реже, а чаще предшественников. Модель o3 от OpenAI на вопросах про конкретных людей выдумывала примерно в трети случаев, вдвое больше предыдущей версии, а рассуждающая DeepSeek-R1 ошибалась почти вчетверо чаще своей же обычной версии. Похоже, размен между глубиной рассуждений и фактической точностью встроен в саму архитектуру. Уточню честно: картина зависит от задачи, на одних тестах длинные размышления вдвое снижают выдумки за счет самопроверки, на других, наоборот, вредят. Вывод из этого не «рассуждающие модели плохие», а другой: единой цифры галлюцинаций не существует, и «умнее» не означает «правдивее».

Насколько все зыбко, видно по разбросу. Одна и та же модель может ошибаться на 0,7 процента при пересказе готового документа, на 18 процентов на вопросах на знание и на 88 процентов на юридических запросах. Стэнфордский индекс ИИ за 2026 год намерил по 26 ведущим моделям разброс уровня галлюцинаций от 22 до 94 процентов в зависимости от теста. Даже специализированные юридические сервисы, которые продаются с обещанием «без галлюцинаций» и работают на проверенных источниках, ошибались больше чем в 17 процентах запросов, а один перевалил за 34. Часть исследователей вообще считает, что при нынешней архитектуре полностью убрать выдумки математически невозможно. Практический смысл простой: не стройте план на том, что следующая версия все починит, относитесь к способности модели уверенно соврать как к ее постоянному свойству.

У нас логика ответственности приземляется в первую очередь на потребительский конфликт, а не на высокую юриспруденцию. Клиент, которому бот пообещал скидку, приходит за ней, получает отказ, раздражается и идет писать разгромный отзыв и рассказывать историю знакомым и в соцсетях. В этом конфликте виноватой выглядит компания, даже если формально она ничего не нарушала. Многие ждали, что все расставит по местам новый закон, но принятый 26 июля 2026 года федеральный закон № 243-ФЗ это рамочный документ, нацеленный прежде всего на разработчиков крупных моделей, провайдеров доступа и владельцев больших платформ. Отдельного штрафа именно за галлюцинацию нейросети он не вводит. А значит, для обычного бизнеса риск исходит не от нового ИИ-специфичного наказания, а от базовой гражданской и потребительской ответственности: за то, что ваш бот наговорил Клиенту, отвечаете вы.

Насколько буднично это выглядит, показывает пример из практики налогового консультанта: нейросеть сослалась на уже отмененную статью кодекса, придумала несуществующее письмо Минфина и попутно отправила конфиденциальные документы Клиента на сторонний сервер. Три разных провала в одном эпизоде, и все три ложатся на компанию. Добавлю, что скрывать от собеседника факт общения с ботом тоже рискованно, в ряде юрисдикций это уже прямое нарушение. Уточню: это общий разбор, а не юридическая консультация, конкретную ситуацию лучше обсудить с юристом. Но общее правило понятно и без него: закон вас по умолчанию не прикроет, ответственность течет в вашу сторону сама собой.

Ключ в том, чтобы соизмерять инструмент с ценой ошибки. Бот, который отвечает на вопрос про часы работы или адрес склада, почти безопасен. Бот, который называет цены, обещает возвраты, дает юридические, медицинские или финансовые советы, это магнит для исков, и относиться к нему нужно соответственно. Загоните его в жесткие границы: пусть отвечает только по вашим проверенным документам, а не по всему, что видел при обучении, ограничьте темы и прямо запретите выдумывать условия и политики. Научите бота честно говорить «не знаю, соединяю с человеком» вместо того, чтобы угадывать, ведь уверенная выдумка обходится дороже честного отказа. Для всего, где цена ошибки высокая, оставляйте человека в контуре: окончательное решение и его последствия должны оставаться за живым сотрудником.

Дальше идет скучная, но спасительная гигиена. Логируйте диалоги полностью: если Клиент оспорит слова бота, вам понадобится точная запись, кто, что и когда сказал. Контролируйте систему постоянно, а не только на старте, ведь подход «согласовали при запуске и забыли» это ровно та схема, при которой такие истории и случаются. И предупреждайте, что человек говорит с ботом. Главный вывод не в том, что чат-боты опасны и их надо гнать. Он в том, что выигрывает не тот, у кого модель умнее, а тот, кто поставил умную модель только туда, где неверный ответ стоит копейки, и обложил ее ограничениями всюду, где ошибка бьет по деньгам или репутации.