Бот-гибрид — самое перспективное вложение в автоматизацию коммуникации

Сегодня расскажу про NLU, LLM и гибридную архитектуру обработки запросов от клиентов, а также о том, чем она выгодна для бизнеса в плане повышения эффективности обратной связи и экономии средств

Меня зовут Демьян Грин, я — гендиректор и основатель сервиса автоматизации коммуникации с клиентами Лия.

В прошлой статье я рассказывал, что такое ИИ и в чем его польза для людей. Мы выяснили, что способность ИИ обрабатывать информацию и выполнять задачи по алгоритму очень пригодилась бизнесу — в частности, она давно и активно используется в банковской сфере, страховании и ритейле.

Почему не нужно бояться ИИ, объясняю здесь

Существует несколько видов автоматизации коммуникации, но я остановлюсь на переписке во внутренних чатах, которую бот ведет вместо человека. Чем он при этом руководствуется?Конечно, своими алгоритмами. Самые первые модели NLU (Natural Language Understanding) работают по жестким сценариям (скриптам). Они распознают, о чем спрашивает пользователь (его намерение), отыскивают самый оптимальный сценарий и выдают самый точный и логичный ответ. Это ответы первой линии.Современные модели LLM (Large Language Model) — гораздо более продвинутые: они понимают естественный язык, контекст и намерение. Словарный запас текстового помощника стал богаче, язык — человечнее, а стиль коммуникации может адаптироваться под конкретного пользователя.

Разница между NLU и LLM огромна: в LLM не заложен набор определенных ответов, это генеративная модель. Поэтому она может выдать уникальный текст, способна вести диалог, консультировать. Это не удивительно, ведь она обучалась на огромных объемах данных, в нее может быть заложено несколько десятков миллиардов параметров — в общем, это настоящая энциклопедия, применяющая «знания» выборочно в зависимости от контекста и ситуации.

Раньше для этого нужен был целый штат сотрудников. Понимаете, к чему я веду? Сегодня их способен заменить ИИ!

NLU — это быстро, дешево и стабильно на случай, когда вы сто тысяч раз получаете вопрос «где мой заказ».

Вторую линию — LLM логичнее подключать избирательно, когда приходит запрос «с подковыркой», со сложными речевыми оборотами, состоящий из нескольких предложений. От LLM требуется другая производительность, соответственно, для ее подключения нужны очень высокие мощности, если ставить в контур (а это дорого). Однако нагрузка может быть регулируемой: к примеру, из 1000 запросов 800 простых придутся на NLU, а остальные — на LLM. Так компания сможет избежать лишних трат.

В Лие — виртуальном чат-боте, который контактирует с пользователями посредством переписки — мы совместили обе модели, создав гибридную архитектуру обработки запросов. Простая NLU встречает пользователя, распознает его намерение и запускает сценарий с заготовленными ответами, а LLM-модель применяет, так сказать, индивидуальный подход.

Когда запрос слишком сложный, LLM-классификатор помогает NLU-модулю точно определить, чего хочет пользователь, и дать корректный ответ даже на запутанный вопрос (в крайнем случае LLM самостоятельно его сгенерирует). Уникальность сервиса заключается в умелом комбинировании и широком применении существующих технологий.

Лия вариативна: можно сделать проект, где все тикеты сразу будут направляться на вторую линию (или же она начнет подключаться, только если система распознает жалобу), а во всех остальных случаях автоматически переключать обратившегося на оператора. Можно сделать так, что вторая линия будет задействоваться, если степень неуверенности первой достигнет установленного в боте порога. Количество вариантов бесконечно, все зависит от потребностей бизнеса. И все эти алгоритмы без проблем выстраиваются в нашем визуальном конструкторе.

Большинство людей не особо любит контактировать с ботами, однако есть и те, кто находит общение с ИИ забавным и даже приятным. Некоторые затевают диалог, чтобы поговорить, особенно если ищут собеседника, который всегда доступен и не станет насмехаться или осуждать.

Так как NLU-боты ориентированы на конкретные задачи и жестко запрограммированы, их реакция на шутки или оскорбления предсказуема: «Извините, я не понял(а)» (или отказ обсуждать). Зато весьма гибкие и умные LLM-боты могут распознавать и даже имитировать юмор и более чувствительны в негативным фразам.

Хотите, чтобы бот превратился в искрометного шутника? Это можно, если заложить параметры, которые позволят ему подключать юмор. А еще можно загрузить в него сленг или, наоборот, сориентировать на сугубо деловой стиль разговора — все зависит от потребностей компании.

Но помните: каждый новый навык будет результатом настроек и установок фильтров и выльется в дополнительную статью расходов — любой диалог с ИИ, особенно с продвинутыми LLM, требует вычислительных ресурсов и, следовательно, стоит денег.

Думаю, для бизнеса гораздо важнее, чтобы взаимодействие клиента с ботом решало в первую очередь ключевые задачи компании. Оптимально настроить ИИ так, чтобы он был в меру «человечным» и приятным в общении, но при этом не провоцировал утомительные «пустые» разговоры, не имеющие прямой ценности. То есть отрегулировать баланс «эмпатийная имитация/прагматичная эффективность».

Обычно мы просчитываем первоначальные показатели автоматизации на старте, ориентируясь на категорию бизнеса. Практически у всех начальный порог при тестовом запуске начинается с 20% — это старт с минимальными требованиями: если прилетело 1000 обращений, то бот автоматически закрывает на входе 200. Постепенно этот процент растет, потому что бот постоянно доучивается — просвещением занимается или компания-клиент, или мы сами, по ее просьбе. Есть проекты, которые спустя время достигают 90% автоматизации и даже больше.

В следующей статье расскажу, в чем уникальность Лии и в каких способностях она превосходит человека.

👉Ближе познакомиться с моей компанией, ее предложениями и возможностями Лии вы сможете на нашем сайте.