Как мы прикрутили GPT в сервис для чат-ботов и ускорили процесс их создания
Благодаря интеграции ChatGPT в Редактор навыков жизнь предпринимателя стала проще – достаточно указать информацию о своей компании при настройке бота, чтобы тот самостоятельно почерпнул из нее нужный ответ.
А как вы без fine tune побороли проблему с очень короткой памятью ChatGPT ? Большой FAQ в него не загрузишь, только очень скромненький.
В текущей версии используем доступный объем контекста ChatGPT. Все так, большой FAQ в него не загрузишь, поэтому пока решение предлагаем именно для малого бизнеса, где база знаний чаще всего небольшая
Сейчас работаем над механизмом, который позволит загрузить большой объем данных или указать ссылку на свой сайт. И здесь уже будет наша прослойка между запросом клиента и обращением в ChatGPT
А если это грузить порциями?