Как устроены AI-ассистенты изнутри: кейсы и архитектура
Последние пару лет компании активно внедряют AI-ассистентов, чтобы автоматизировать внутренние процессы.
AI-ассистенты уже отвечают на вопросы клиентов, помогают отделу продаж и даже участвуют в ведении переговоров. Однако создание таких систем — это не просто «взять GPT». Под капотом должен быть продуманный сценарий общения бота и пользователя.
Мы в Epoch8 используем стек бесплатных компонентов с открытым исходным кодом, который помогает быстро и без лишних затрат запускать AI-ассистентов, адаптированных под конкретные бизнес-задачи.
Расскажу как она устроена и какие проблемы решает.
Где используются AI-ассистенты?
Наши клиенты используют AI-ассистентов в следующих кейсах:
- Поддержка клиентов — автоматизация ответов на частые вопросы, назначение обращения на нужного оператора.
- Продажи и маркетинг — ассистенты могут генерировать коммерческие предложения и отправлять персонализированные письма.
- Обучение сотрудников — помощь новым сотрудникам в поиске ответов и решений по базе знаний компании.
Из чего состоит наша платформа AI-ассистентов?
Для разработки ассистентов мы используем технологический стек на базе инструментов с открытым исходным кодом:
- RASA — распознавание намерений пользователей и управление диалогами.
- Botfront — визуальный конструктор сценариев, который позволяет настраивать сложные диалоги без программирования.
- Chatwoot — интерфейс оператора, где человек может подключиться, если бот не справился.
Почему мы выбрали этот стек?
Открытые компоненты дают гибкость: их легко адаптировать под задачи клиента, а систему можно развернуть как в облаке, так и в инфраструктуре заказчика для соблюдения требований безопасности.
Что умеют делать AI-ассистенты?
1. Ответы на частые вопросы
Ассистент ищет информацию в базе знаний, где статьи связаны с вопросами пользователей. Например:
- Пользователь: Как оплатить счет?
- AI-ассистент: Вот инструкция: [ссылка на статью].
Контент-менеджеры могут легко добавлять статьи и связанные с ними вопросы. Когда пользователь задает запрос, ассистент ищет релевантные статьи и возвращает ответы в чат.
Мы часто используем Chatwoot для интерфейсов операторов и управления базой знаний.
Ассистент также может использовать большие языковые модели (например, GPT) для генерации ответов или анализа пользовательских данных.
2. Автоматизация сложных процессов
AI ассистенты могут поддерживать сложные сценарии, например:
- Управление подписками.
- Прием платежей.
- Оформление заявок (например, регистрация багрепортов).
Все эти сценарии могут настраиваться через визуальный интерфейс Botfront. Программирования требуют только так называемые “actions” – специальные функции, с помощью которых ассистент может обращаться к внешним API или выполнять другие сложные логические действия.
Сценарии строятся на основе "историй" — цепочек действий, которые бот выполняет в зависимости от интентов (намерений) пользователя.
Пример:
- Интент пользователя: «хочу узнать статус заказа».
- Ассистент: проверяет API, запрашивает статус и возвращает данные в чат.
Когда пользователь общается с AI-ассистентом, RASA распознает интент для каждой фразы пользователя и принимает решение о следующем ответе ассистента:
- либо это ответ по базе знаний (FAQ)
- либо это ответ по одной из существующих историй (например, истории “узнать статус заказа”)
- либо это запрос в API и получение ответа из API и др.
3. Интеграция с большими языковыми моделями
Большие языковые модели (GPT, Claude) дают ассистенту ещё больше возможностей:
- Генерация сложных текстов, например, черновиков писем или отчетов.
- Извлечение данных из запросов (например, имени клиента или даты).
- Обработка нестандартных запросов, где нужны гибкие сценарии.
Архитектура платформы: как всё устроено?
Менеджер AI-ассистентов
В основе платформы — AI Assistant Manager, который:
- Получает запрос пользователя.
- Определяет, какой "агент" обработает запрос: RAG: поиск ответа в базе знаний.LLM Pipeline: сложная обработка запросов.RASA Stories: сценарные взаимодействия.
- Возвращает ответ пользователю.
Пример работы:
- Пользователь: "Расскажите о новых продуктах компании"
- AI Assistant Manager передаёт запрос агенту RAG, который анализирует документы и возвращает краткую выжимку.
Такая архитектура позволяет:
- Добавлять новые сценарии или интеграции без привлечения разработчиков.
- Быстро исправлять ошибки и обновлять логику.
Ассистенты
Ассистенты – это доступные для системы AI-агенты, каждый из которых выполняет определенную задачу. Типовые ассистенты:
- RAG: отвечает на вопросы по загруженной базе документов. Работает с вектороной базой данных, в которую умеет загружать документы и отвечать на вопросы по этим документам.
- LLM Pipelines: осуществляют сложные обработки пользовательского запроса с помощью последовательного вызова языковых моделей (например, генерируют контент-план и черновики постов, извлекают данные из комментариев в CRM итп итп)
- RASA Stories: осуществляют сценарное взаимодействие чат-бота и пользователя с обращением во внутренние сервисы заказчика. Например, принимает багрепорт, заводит тикет в JIRA и возвращает пользователю номер тикета.
Список агентов может легко расширяться.
Почему это удобно?
- Минимум программирования:Большая часть сценариев настраивается через визуальные интерфейсы.
- Гибкость:Система поддерживает интеграции с API, большими языковыми моделями и базами знаний.
- Масштабируемость:Платформу можно адаптировать для разных задач: от автоматизации поддержки до помощи HR.
Долго ли собирать MVP?
Собрать рабочий MVP AI-ассистента можно достаточно быстро, если правильно подойти к задаче. Всё начинается с анализа текущих процессов и выделения одного ключевого сценария, который даст ощутимый результат. Например, это может быть автоматизация ответов на вопросы по базе знаний.
С использованием RASA и Botfront базовую версию ассистента можно настроить за 2-4 недели: от создания сценариев до интеграции с необходимыми системами. Главное – не пытаться автоматизировать всё сразу.
Итог
AI-ассистенты больше не являются сложной и дорогой технологией. Сегодня их можно использовать для решения самых разных задач: от автоматизации рутинных операций до помощи в сложных сценариях.
А у вас был опыт автоматизации процессов с помощью AI?
На данный момент AI ассистенты это отличный помощник при ведении бизнеса. Согласен с тем, что один из его плюсов состоит в том, что его создание происходит в большей части через конструктор, который относительно прост в понимании даже для не программиста. Ассистенту не нужно платить зп и он не будет уставать или идти в отпуск, но при этом в случае чего - может подключиться человек и уже решить то, что не может ИИ