Захотел я как то разгрузить чат техподдержки в тг с помощью RAG

Скажу сразу, кодить не умею от слова совсем. Решил сделать через n8n, первый опыт. Цель - отвечать на вопросы технического характера по подключению нашего сервиса и устранению проблем. Скажу сразу - техподдержка делает небольшие продажи, подробнее ниже.

Мне удалось собрать RAG с распознованием текста и голоса на базе OpenAI, с долгосрочной памятью основанной на нашей БД и краткосрочной, то есть помнит диалог с клиентом. Могу путать терминологию. Так вот после тестов к чему я пришел. RAG в техподдержке это боль и вот почему.

Вся проблема в ИИ, сколько бы я не менял модельки, мне не удавалось улучшить ответы. На просьбу отвечать локанично, ИИ все равно выдает огромные ответы, давая много ненужной информации, потому что не может сразу увидеть проблему и выдает неточный ответ. Все это получается в длинный ненужный диалог. Очень коряво дает ссылки и юзернеймы тг, которые конечно не работают. Не удалось избавиться от галлюцинаций, сколько бы не колдовал с промтом.

Поэтому RAG я пока откладываю в долгий ящик. Только человек может дать точечный ответ, решив проблему одним сообщением. А еще сделав продажу, когда клиент обращается за уточнениями или удержать клиента, когда есть проблемы.

Сам кстати как пользователь RAG не люблю, он мне ни разу не помог, а только лишь усложнял процесс получения ответа. RAG наверно хорош в продажах, но не в техподдержке. Опять же все это мой опыт.