Как я собрала локальный ИИ-ассистент: защита коммерческой тайны и 0₽ в месяц за API
Бизнес боится утечек данных через облачные ИИ (привет, ФЗ-152). Я решила эту проблему: собрала полностью автономный RAG-движок на Python, который запускается в один клик и работает оффлайн. Делюсь.
Демонстрация работы (Видео)
https://youtu.be/Rr-uRKNVj8c?si=lK_UOcukJi9Y_Rkc
Важно: Из видео вырезаны процессы установки библиотек и скачивания моделей (Llama/Mistral), чтобы вы не смотрели час прогресс-баров. В реальности они автоматизированы скриптом START.bat.
Ключевые фишки движка
100% Приватность: On-premise решение. Данные не покидают ваш сервер.
Автоматическая установка: Скрипт START.bat сам ставит Python, C++ компоненты и зависимости.
Гибкость: Легко прикрутить любой интерфейс к готовому API движка (engine.py).