Что ИИ в поддержке делает плохо: четыре слабости, о которых молчат внедренцы

Меня зовут Карим, я занимаюсь автоматизацией в NODA и внедряю ботов в клиентскую поддержку — поэтому имею право начать с плохих новостей о собственном инструменте. Их четыре, они системные, и продавцы решений о них говорят скороговоркой.

Короткий ответ, если читать некогда: ИИ в поддержке стабильно плох в четырёх вещах — в редких нестандартных случаях, в признании собственного незнания, в разговоре с разозлённым человеком и во всём, где у ошибки есть цена. И это нормально, потому что экономика ИИ-поддержки строится не на замене людей, а на разделении потока: машина забирает частое и дешёвое, человек получает время на редкое и дорогое. Проблемы начинаются у тех, кто путает эти две задачи.

Сначала контекст, чтобы был понятен масштаб. Сбер к лету 2026-го обрабатывает с участием ИИ больше 65% клиентских обращений: 66% по телефону, 71% в чатах. Яндекс ждёт от ИИ-агента в поддержке Такси больше 600 млн рублей экономии за год.

Поддержка — идеальный полигон для ИИ, и это не мода, а совпадение трёх свойств: вход языковой и каждый раз чуть разный, объём огромный, цена одиночной ошибки низкая. Я разбирал эту логику в статье про ИИ-агентов; здесь важно другое — даже в идеальных условиях остаётся зона, где машина проваливается предсказуемо.

Обращения в поддержку распределены неравномерно: два-три десятка типовых сюжетов покрывают львиную долю потока, а дальше тянется бесконечный хвост редких ситуаций. Модель блистает на частом, потому что видела его тысячи раз. На редком она делает худшее из возможного — отвечает уверенно и правдоподобно, не имея оснований.

Человек в такой ситуации говорит «сейчас уточню». Модель генерирует ответ, который выглядит как правильный. Для клиента с нестандартной проблемой это означает уверенный неправильный ответ — и второй круг обращений.

Это не отдельный баг, а продолжение первой слабости, но её стоит выделить, потому что она ломает доверие сильнее всего. Языковая модель по устройству продолжает текст наиболее правдоподобным образом — у неё нет встроенного ощущения границы собственных знаний.

Честное «не знаю, переключаю на специалиста» — лучший из возможных ответов в трети случаев. Настроить бота на такое поведение можно, но это требование к внедрению, а не свойство из коробки, и по умолчанию его нет почти нигде.

Клиент, у которого списали деньги дважды, не хочет диалога с машиной — он хочет, чтобы его услышал кто-то, кто может понести ответственность. Вежливое «я вас понимаю» от бота в этот момент работает как ускоритель конфликта: человек чувствует, что компания выставила между ним и решением ещё один слой.

Эмоционально заряженные обращения — это малая доля потока, но именно из них рождаются публичные скандалы и уходы. Экономия на этой доле — копеечная, а риск — репутационный.

Возвраты денег, отмена заказов, изменение персональных данных, любые необратимые действия. Обратите внимание на практику компаний, которые в ИИ-поддержке дальше всех: ни Сбер, ни Яндекс не отдают машине право самостоятельно проводить такие операции. Не потому, что не могут технически, а потому, что умеют считать цену ошибки.

Если внедренец предлагает боту право на необратимые действия «для полной автоматизации» — это признак, что цену ошибки за вас не посчитали.

А теперь та часть, ради которой я это пишу. Четыре слабости не отменяют экономику — они её определяют.

Правильная конструкция выглядит так: бот забирает типовой поток и закрывает его за копейки, мгновенно и ночью. Всё нестандартное, эмоциональное и дорогое уходит человеку — быстро и заметно для клиента. Оператор перестаёт быть конвейером по ответам на «где мой заказ» и получает время на случаи, где он действительно нужен.

Главная метрика такой системы — не процент автоматизации, которым хвастаются в презентациях, а качество эскалации: как быстро нестандартный случай доходит до человека. Бот, который прячет кнопку «позвать оператора» ради красивого процента, экономит рубли на маршрутизации и сжигает клиентов на хвосте. Это самый распространённый способ превратить работающий инструмент во вредительство, и он встречается чаще, чем плохие модели.

Три числа, которые видно в любой системе поддержки. Доля повторных обращений по той же проблеме: если после бота человек пишет снова — ответ был уверенный, но не решил. Длина диалога до эскалации: три круга «уточните, пожалуйста» перед переключением — это три круга раздражения. И обращения, закончившиеся без решения и без эскалации: тихая зона, где клиент просто сдался, — самая дорогая строка, потому что она выглядит как успех.

Процент автоматизации без этих трёх чисел — метрика тщеславия.

Граница «нестандартного» сползает. Модели дешевеют и умнеют быстрее, чем я успеваю обновлять примеры, и хвост, который сегодня требует человека, через год частично заберёт машина. Направление у этого движения одно, спорить можно только о скорости.

И моя выборка смещена: я вижу внедрения, где что-то пошло не так, чаще счастливых — счастливые не зовут. Возможно, ботов, которые прячут оператора и при этом никого не теряют, больше, чем я думаю. Данных, впрочем, никто из них не публикует.

Вопрос к вам двойной. Как клиент — какой самый нелепый ответ вы получали от бота поддержки и добрались ли потом до человека? Как бизнес — знаете ли вы свою долю обращений, которые закончились ничем: ни решением, ни эскалацией?