AI-бот для ответов по PDF-файлам
Рассказываю, как создать бота для корпоративной базы знаний, «как на "Госуслугах"».
У вас в компании есть база знаний? Наверно да, даже в небольших командах знания нужно фиксировать и передавать. А как часто вы читаете эти доки? Думаю, не так часто, как хотелось бы их авторам. А еще, скорее всего, вы даже не знаете о том, что большинство информации уже кем-то где-то написано, просто вы не видели или не можете найти нужное в этой тонне ссылок и файлов.
Мы в команде конструктора чат-ботов SmartbotPro давно занимаемся созданием ботов, в том числе для ответов на часто задаваемые вопросы. Но такого эффекта, который мы получили сегодня благодаря GPT, мы даже не могли предположить.
Пример результата
Для примера того, что можно получить буквально за пару минут, мы сделали чат-бота в тг по собственной документации. Попробовать бота можно тут.
Бот отвечает качественно и по заданному контексту, без «выдумок». Фактически получается умный бот для поиска по базе знаний, который может проконсультировать пользователя по большому объему информации. А самое главное, что такому боту можно задать любой вопрос человеческим языком и он не просто подберет нужную статью из базы знаний, а ответит, как человек.
Как это работает?
В основе бота, конечно же, лежит GPT. Но перед тем, как запрос отправится в GPT, Smartbot AI подберет наиболее подходящий контекст. Например, в вопросе «как подключить бота к группе ВК» мы должны передать в качестве контекста статью про подключение разных каналов к боту. Для этого мы используем специальные индексы, которые строятся по исходным текстам. А уже в момент запроса по индексу ищется наиболее близкий по смыслу кусок текста, который затем передается в GPT вместе с вопросом пользователя.
Но это про технологию под капотом. А что с точки зрения клиента? Все просто:
- Загружаете PDF со всеми статьями или любым другим текстом, по которому хотите искать.
- (Происходит обучение, которое я описал выше)
- Полученный сценарий в SmartbotPro подключается к вашему телеграм-боту / вк / сайту.
Помимо этого режима в Smartbot есть много других функций – визуальный конструктор логики бота, рассылки, создание webapp-магазинов в телеграме, режим Smartbot AI для сбора лидов и многое другое.
Вместо вывода
Сейчас мы ищем тестируем новый режим и ищем компании, которым интересен этот инструмент. Если это про вас, то оставляйте заявку на странице продукта или пишите напрямую нам в телеграм.
Хостится он у вас? Или можно у нас, не выдавая вам нашу базу знаний?
Можно развернуть в вашем контуре, но это будет уже дороже. Ну и все равно надо понимать, что внутри используется gpt, то есть нужен выход в интернет, а ваша база знаний переработанном виде все равно попадёт к open ai
Да, всё верно, хостится у нас, это онлайн-сервис, то есть SaaS
У нас есть история огромного внутреннего чата, из которого надо вытащить наиболее часто задаваемые сотрудниками вопросы (и в идеале ответы на них). Как это можно сделать?
Кажется, что можно просто собрать все ответы и это использовать для обучения)
Соглашусь, что крупняк не будет вот так налево и направо кидаться информацией, проще поручить разрабам, которые прикрутят тоже самое с azure, так же и из пдф будет читать и даже из базы по типу эластик. Все равно непонятно для кого решение.
Вторая проблема - разграничение доступа. Ваш бот (поправьте если ошибаюсь) работает так же как и другие, то есть забирает всю информацию и всю же ее и отдает любому сотруднику - тоже подойдет далеко не всем.
Ну про "крупняк" соглашусь, но применений-то полно. Вот есть даже наш кейс с документацией. Или со всякими FAQ. То есть тонны информации, которая в открытом доступе, но в ней нужно ковыряться и никто это не делает. Теперь можно сделать бота, который будет работать качественно и воспринимать вопросы на естественном языке