Ростислав Шацкий

Друзья, я написал доработанную версию этого чата, в нем:
- поддерживается история переписки
- можно загружать документы из папки в исторический контекст
- можно загружать собственный код программы в исторический контекст
- появилась команда "новый чат" - создает новый диалог с очищенной историей переписки/исторического контекста.

Давайте, если лаков будет 30+ я выложу продолжение)

Да, в справке LangChain есть список провайдеров и моделей, с которыми можно работать. Мне кажется у них есть интеграции вообще ко всему, что я встречал: https://python.langchain.com/v0.1/docs/integrations/chat/

Вам потребуется локальный сервер со скаченной моделью нейронки, далее в коде нужно будет заменить импорт:
from groq import Groq на соответствующий

Далее в коде нужно будет прописать настройки локального сервера с моделью