Кейс: как мы автоматизировали с помощью ИИ небольшой ресторан и резко откатили все изменения

Автоматизация сейчас везде: от написания пробных сайтов до агентов по закупке сырья. В то время, как я только начинал углубляться в ИИ автоматизацию, я нашел для себя интересный кейс - автоматизировать процесс бронирования столов в небольшом ресторане, параллельно отвечая на вопросы пользователей - от "Что можно попробовать если я очень люблю сырое мясо в салатах", до "составьте нам небольшое банкет меню для 15 человек в сумме до 24000 рублей, преимущественно без салатов и закусок"

Тогда, еще будучи молодым, я не имел опыта в разработке подобных кейсов. Поэтому, вместо проверки гипотез, сразу пошел в прод - нашел для себя наиболее подробный пайплайн работы, протестировал необходимые сервисы, начал писать ТГ бота с уже имеющимися (небольшими) знаниями, подключил whisper чтобы можно было общаться голосовыми, отдельный LLM роутил задачи - второй LLM отвечал сообщениями. И финально когда дело дошло до запуска оказалось, что профита от подобного решения в разы меньше, чем посадить отдельного человека за телефон. Пришлось экстренно откатывать - удалять всю информацию о боте, в самом боте отправлять информацию по какому номеру нужно позвонить в случае бронирования. Заказчик, в целом, отнесся к ситуации с пониманием, поэтому мы сошлись на приемлемых друг для друга условиях работы.

Какие ошибки я совершил при автоматизации данного процесса?

Во-первых не проверил гипотезу: уже в то время активно применялись low code сервисы для быстрого построения болванок для проверки метрик - на сколько процесс стал быстрее, сколько профита мы с него получаем, какое качество в итоге мы получим.

Во-вторых начал применять сложную архитектуру там, где она не дает значительного прироста. Подключив базовую ЛЛМ к этому процессу я бы получил совершенно тот же результат, просто правильно написав итоговый промпт. RAG строить для подобных задач было совсем не обязательно.

В-третьих применил LLM в функции, в которой важны Софт скиллы. LLM, насколько бы он ультимативен не был, обучен, преимущественно, на статьях, книгах, научных работах. Чувствовать "что действительно хочет клиент" он не может, ровно как и взаимодействовать с человеком в рамках "чувственного" диалога. Диалоги в целом - не сильная сторона любой большой языковой модели. К этому можем добавить, что все мы разные и желая заказать столик в ресторане применяем абсолютно разные речевые обороты. Человек очень быстро адаптируется под конкретные условия - может сразу классифицировать человека который "позвонил просто так", определить чем можно заменить конкретное блюдо судя по вкусам или прошлым заказам клиента и т.д

Поэтому, суммарно - прежде чем внедрять ИИ автоматизацию в бизнес процессы важнейшим условием является проверка гипотез. На бумаге вся автоматизация может выглядеть идеально, причем даже учитывать огромное количество нюансов. Но на практике удар можно получить оттуда, откуда мы совершенно не ожидаем.

Больше подобного материала (практика применения ИИ в бизнесе/быту) в моем телеграмм канале: