Почти как Д.Ж.А.Р.В.И.С: как мы создали Helprobot.LLM-агент, который общается с клиентами не хуже живых сотрудников
Наш разработчик всегда мечтал создать умного помощника — как «Д.Ж.А.Р.В.И.С» из Marvel. Чтобы мог отвечать на вопросы пользователя, присылать ссылки на товары и услуги, уточнять стоимость доставки, давать рекомендации по выбору. Когда в Вебформат обратился клиент с проблемой долгой обработки входящих лидов — мечта стала реальностью!
Привет! Меня зовут Дмитрий Горбатюк, я директор компании Вебформат. Сегодня я продолжу знакомить вас с нашими проектами для автоматизации бизнеса. Ранее мы уже делились историей создания сервиса для речевой аналитики и транскрибации голоса в текст и чат-бота для техподдержки клиентов.
Сегодня я расскажу о новом сервисе экосистемы Helprobot — , умном помощнике для общения с клиентами и первичной обработки лидов. Но сначала…
А в чем разница между чат-ботом и LLM-агентом?
Многие путают эти понятия, сразу расскажу, что есть что и в чем принципиальная разница.
Чат-бот — это заранее запрограммированная цепочка ответов, или сценариев, по которому бот ведет коммуникацию. В чат-ботах можно настроить логику взаимодействия и ответов, сделать проверку условий, настроить персонализацию или запрограммировать триггеры и действия при обнаружении определенных слов в переписке. Но главная особенность чат-бота — он не способен действовать за рамками запрограммированных сценариев, самостоятельно принимать решения и формулировать ответы. Все, что программист в него заложит — то он по скрипту и выдаст пользователю.
LLM-агент — это интеллектуальная система, которая использует большие языковые модели (LLM) для выполнения более сложных задач, нежели у чат-бота. Такой робот-помощник может действовать не только в рамках запрограммированных скриптов и заложенной программистом информации, как у чат-бота, но и анализировать данные, принимать решения, интегрироваться с внешними источниками информации и даже выполнять действия по запросу пользователя. Простыми словами, LLM-агент способен понимать контекст и действовать на его основе.
Как появилась идея создать умного ассистента
Helprobot.LLM-агент появился благодаря двум идеально совпавшим факторам: потребности нашего постоянного клиента в подобном сервисе и готовым наработкам нашего талантливого разработчика на Python — Олега.
Запрос клиента — автоматизировать рутину менеджеров
К нам пришел клиент с проблемой — у менеджеров уходит куча времени на обработку входящих лидов:
- обзвон, общение в мессенджерах и на почте;
- выявление потребности потенциального клиента;
- выяснение деталей и предпочтений по заказу;
- предоставление данных о ценах, ассортименте товаров и предоставляемых услугах.
Далеко не каждый входящий лид становится клиентом, но время сотрудника тратится впустую, и бизнес несет убытки в виде затрат на операционную деятельность.
Внедрение умного помощника должно было увеличить скорость ответов до мгновенной, дать возможность поддерживать диалоги в любое время суток и в выходные. Также в отличие от менеджера, робот может поддерживать одновременно любое количество бесед и везде отвечать оперативно.
Нашей задачей было перевести рутинные процессы на LLM-агента и высвободить сотрудникам больше времени для решения ключевых задач.
Сервис должен был заняться квалификацией входящих лидов. Планировалось, что робот будет проводить тщательный отсев неквалифицированных, или отказных, лидов — клиентов, которые пришли с рекламы ошибочно, неплатежеспособны, не заинтересованы в покупке, не являются целевой аудиторией и другой входящий спам.
Если запрос в итоге доходит до оператора после чат-бота — это уже квалифицированный лид, попавший в воронку продаж. Чат-бот выявил потребность клиента, а сам клиент «теплый» или «горячий».
Все что остается менеджеру — выслать нужную информацию и заключить сделку. Минимум рутинной операционки — максимум продаж.
Воплощение J.A.R.V.I.S для реальных проблем современного бизнеса
Один из наших разработчиков, Олег, давно интересовался большими языковыми моделями (LLM) в целом и агентами в частности. В свободное от работы время он разрабатывал систему, похожую на «Д.Ж.А.Р.В.И.С» из киновселенной Marvel. Он мечтал создать умного помощника, который сможет самостоятельно выполнять запросы пользователя:
- отправлять сообщения в Telegram;
- выходить в интернет;
- находить интересные видео на YouTube по запросу владельца;
- ставить напоминания и многое другое.
Проект начинался как хобби, заряжающее вдохновением. Но создание других продуктов экосистемы Helprobot дало понимание, что можно также принести реальную пользу бизнесу и решить его потребности.
Олег предложил нам создать для клиента AI-ассистента, который:
- сам начнет диалог с пользователем;
- ответит на его вопросы, в соответствии с базой знаний и контекстом ситуации;
- вышлет ссылки на товары, услуги или предоставит каталог;
- вышлет ссылки на товары, услуги или предоставит каталог;
Всю собранную информацию помощник должен был собрать и отправить менеджеру или занести в карточку клиента, если проведена интеграция с CRM или сайтом.
Важная черта, которую нужно было заложить для помощника — умение вовремя понять, что он не в силах помочь клиенту и требуется вызов живого оператора.
Как менялся сервис от первого MVP до рабочей версии
Первая версия сервиса была наработкой Олега и написана на Python. Этот язык был выбран благодаря его удобству и скорости написания кода.
Сначала наш разработчик занялся разработкой архитектуры сервиса, в которую входит:
- LLM-агент. Основная составляющая системы, используется для взаимодействия с клиентами и генерации ответов на основе искусственного интеллекта и подключенных нейросетей.
- База знаний. Набор данных, обученных под конкретную компанию, в соответствии с ее ассортиментом и сферой деятельности.
- Интерфейс для взаимодействия с базами данных. Механики получения информации роботом из внутренних и внешних баз данных, с помощью которых робот выдает актуальную информацию пользователю.
- Модуль внешнего взаимодействия. Механизм выявления необходимости передачи чата живому менеджеру и информации, необходимой для погружения в контекст общения.
После этого встал вопрос о повышении производительности и скорости отклика сервиса. Было решено поэтапно переписать проект на более производительном и ресурсоёмком языке программирования GO.
В обновленную версию сервиса были добавлены функции:
- Интеграции с продуктовыми базами. Добавили модуль взаимодействия с базами данных клиентов, чтобы агент мог эффективно предоставлять информацию о товарах, помогать с выбором, уточнять цены и наличие.
- Интеграции с платформами общения. Внедрили интеграцию с открытыми линиями в Bitrix 24, что позволило подключать агента в виджет на сайте, Telegram-бота, VK и другие платформы.
- Вызов оператора. Оснастили агента возможностью передавать запрос оператору, когда ситуация требует вмешательства человека.
Эта версия и стала рабочей. Сейчас она обрастает все новыми и новыми функциями, активно дорабатывается и внедряется нашим клиентам.
В чем основные фишки и преимущества нашего сервиса
У Helprobot LLM Agent есть три основных состояния работы:
1. Начало диалога с клиентом. Агент самостоятельно начинает диалог с пользователем, вежливо выясняет его запрос и пожелания, старается заинтересовать его предложением. Во время диалога с клиентом робот выполнит ряд действий:
- представится и сообщит, что он умный помощник;
- спросит имя потенциального клиента и совершит «первое касание»;
- уточнит, из какой он компании (если агент разработан для B2B-сферы);
- через обещание выгоды скажет, что утром с клиентом свяжется менеджер по продажам и предоставит всю необходимую информацию и расчеты;
- узнает предпочитаемый способ связи и сохранит контакт для дальнейшей связи с менеджером.
Если потенциальный клиент не соглашается предоставить номер телефона или почту, то умный помощник обещает ему что утром с ним свяжется менеджер в том же чате и обо всем проконсультирует лично.
Цель этапа взаимодействия: вовлечь потенциального клиента в диалог, отсеять спамные лиды без потребности купить товары или услуги, «молчунов» и ошибочно попавшие с рекламы заявки.
2. Ответы на вопросы по заранее заданным сценариям. Робот способен самостоятельно сформулировать и дать ответы на вопросы касательно информации о компании, ее товарах и услугах, стоимости доставки или дать рекомендации по выбору. Нужные данные он берет из базы знаний, обученной специально под компанию.
Обучение ассистента и формирование базы знаний происходит на этапе внедрения сервиса. Чем более полные данные о бизнес-процессах, этапах работы и скриптах менеджеров будут собраны, тем полезнее для бизнеса окажется LLM-агент. Хорошо обученный робот будет также эффективен как живой сотрудник.
Цель этапа взаимодействия: провести первичный опрос потенциального клиента, определить за какими конкретно товарами и услугами он пришел, отсеять неплатежеспособных потенциальных клиентов.
3. Передача сложных запросов оператору или перевод сессии чата и всей собранной информации о контексте на оператора.
Вызов оператора у LLM-агента происходит в двух случаях:
- Вся нужная информация собрана и клиент готов продолжить ведение сделки с менеджером.
- Сбор информации затруднен — поступил сложный или нестандартный вопрос. Например:
- нестандартные вопросы о товарах или услугах, их характеристиках и свойствах;
- запросы партнерства, оптовых продаж и т.п.;
- запросы на индивидуальный расчет, расчет нетипичных конфигураций товаров, изготовление на заказ и т.д.;
- диалоги, где потенциальный клиент настойчиво требует связи с живым оператором.
Для вызовов оператора по сложным вопросам мы рекомендуем вести статистику и рассматривать каждый вопрос, который агент определил как сложный. Многие из подобных вопросов после анализа могут быть добавлены в базу знаний и использованы для обучения сервиса компании. В дальнейшем сервис сможет отвечать на эти вопросы, что повысит автоматизацию и уменьшит количество вызовов менеджера.
Цель этапа взаимодействия: передать клиента со всей собранной информацией менеджеру либо вызвать менеджера на помощь для ответов на затруднительные вопросы.
Для бизнеса Helprobot.LLM-агент несет существенную пользу:
- Снижает нагрузку на менеджеров. Менеджерам не приходится тратить ценное время и проводить первичный рутинный опрос потенциальных клиентов.
- Все без исключения запросы обрабатываются, происходит квалификация лидов. Если запрос доходит до оператора, он уже содержит необходимую информацию, клиент «теплый» и готов к покупке.
- Агент работает круглосуточно, без выходных и праздников. В отличие от живых менеджеров, агенту не нужны выходные, отпуска, перерывы на обед. Он может работать вне рабочего времени менеджеров и поддерживать связь с потенциальными клиентами из разных часовых поясов. В случае если диалог велся в нерабочее время, данные будут переданы оператору сразу, как он появится в сети в рабочее время.
Сколько стоит внедрить сервис
Для новых пользователей у нас есть 7-дневный тестовый бесплатный тариф. Мы подключаем сервис на тестирование в один из каналов компании, вы тестируете и принимаете решение об итоговом внедрении. Во время тестового периода обучение умного помощника под задачи компании не проводится.
Платные тарифы с обучением сервиса под задачи вашего бизнеса стартуют от 3500 рублей в месяц, что во много раз меньше, чем стоимость найма одного штатного менеджера.
Планы разработки на ближайшее будущее
Продукт Helprobot.LLM-агент молодой, но активно развивается, дорабатывается и радует пользователей постоянными обновлениями функционала.
В ближайшее время наша команда разработки планирует добавить:
- Ведение статистики и сбор аналитики, формирование отчетов. Разрабатываем инструменты для анализа взаимодействия с пользователями — для оптимизации работы агента и улучшения качества обслуживания.
- Интеграцию нескольких LLM и возможность выбора модели. Планируется добавление несколько языковых моделей. Это даст пользователям возможность выбирать наиболее подходящую модель для конкретных задач и оптимизировать затраты.
- Расширение функционала. Будем работать над улучшением понимания и обработки сложных запросов, интеграцией с дополнительными системами и сервисами, а также добавим новые иностранные языки для расширения аудитории.
Если вы предварительно подготовите данные, то мы сможем подключить LLM-агента на ваш сайт в течение одного дня, для этого нужно:
- заполнить базу знаний с общей информацией для обучения (ниже пример Google-таблицы, сделайте себе копию и заполните вашей информацией)
- если у вас интернет-магазин и необходимо, чтобы агент консультировал по вашим товарам, то пришлите нам ссылку на yml-файл.
- если нужно, чтобы агент отвечал посетителям на сайте, то пришлите нам ссылку на ваш Битрикс24 (или мы можем подключить агента в телеграм)
Делитесь в комментариях, используют ли ваши менеджеры чат-ботов для автоматизации продаж или до сих пор обрабатывают все заявки вручную? Какого функционала больше всего не хватает в подобных сервисах и чем вы недовольны в своем?
мне кажется нам зайдет ваша штука, потестить надо как-то
спасибо за интерес) мы можем помочь с настройкой и показать, как она работает на практике. Напишите нам в Телеграм, если хотите обсудить
Кейс хорош, молодцы отработали
Спасибо, стараемся)
однозначно надо использовать все подобные модели коммуникации, люди разных возрастов уже привыкли к ним. во многом благодаря ковиду, как бы это не звучало
Интеграцию нескольких LLM и возможность выбора модели.
Вот это кажется крутая тема, хочется посмотреть как будет реализовано
мне кажется отличное решение для многих