Что такое RAG-система (корпоративный ИИ) простыми словами: объясняет основатель Do Digital

Привет! Я Максим Орлов, основатель AI-студии Do Digital. Мы занимаемся внедрением искусственного интеллекта в бизнес. Расскажу, что такое RAG-система — корпоративная база знаний с нейросетью, — и какую бизнес-задачу она решает.

RAG-система — это система, которая объединяет все знания компании в одну единую базу, с которой может работать нейросеть. Её можно интегрировать со всеми источниками данных, которые есть у компании: с сайтом, системой учёта, 1С, 1С:ERP, трекерами, Яндекс Облаком, Google Документами, Яндекс Документами. В принципе, с любой системой — как с открытым API, так и без него.

Мы загружаем в систему всю имеющуюся информацию и пишем для нейросети инструкции, которые помогают понять контекст, в котором находится компания, и какую деятельность она ведёт. Нейросеть знает, как работает компания, у неё есть контекст. Она понимает, условно, какой столбик в 1С за какой параметр отвечает и какие данные хранит.

Обычная LLM есть у всех. Но она имеет доступ только к той информации, которую вы отправляете ей в интерфейсе. Если вы пользуетесь нейросетью по подписке, вы можете закидывать ей данные руками — и она знает только то, что вы ей «скормили». Что загрузил, о том и поговорил.

RAG-база подключена непосредственно к базе знаний компании, и новые данные поступают туда без того, чтобы вы что-то вносили руками. Вы получаете доступ ко всей системе, которая знает о компании всё.

Например, компания продаёт технику и запчасти к ней, и нужно посмотреть коэффициенты соотношения одного к другому, как меняются объёмы производства и продаж. Если специализированные дашборды не настроены, можно нажать одну кнопку, сказать голосом или написать, что нужно, — и система сама соберёт нужный набор дашбордов и объяснит, что они показывают.

Такая система полезна там, где есть систематическая бизнес-деятельность, есть бизнес-юниты, накапливается объём информации и эта информация обновляется. Если компания живая — ей нужна такая система.

Я постоянно говорю всем: ваш ассистент, который работает на базе RAG, — это полноценный новый сотрудник вашей компании. А любой сотрудник должен в моменте знать, что происходит в компании, и иметь доступ к актуальной информации.

Чаще всего это направления, связанные с продажами, маркетингом, дистрибуцией, а также вопросы руководителя бизнеса: к нему стекается вся информация по компании, и он может делать свои собственные выборки.

Пытаются сделать всё сразу, и это даёт ровно обратный эффект. Получается куча мала: ты всё скинул туда и думаешь, что оно само разберётся. В итоге система вроде бы работает, но непонятно, как ею пользоваться. Мы настаиваем на том, чтобы идти шаг за шагом: сначала один отдел, метрики до и после, и только потом переносить на другие участки компании.

Риски утечки данных. Если компания использует открытые нейросети, сотрудники могут вносить туда личную информацию. Поэтому мы можем ставить специальный модуль, который обезличивает данные в процессе работы.

Машут рукой на данные. Клиенты обычно оставляют это на внутреннее взаимодействие: «а, это кто-то из наших сделает» или «это само собой получится». Но какие данные откуда поступают, что это за данные и как они получаются — это даже важнее, чем обсуждение любого другого момента. Если нет понимания по данным, всё остальное становится неважным. Все спрашивают одно и то же: какая главная проблема? Главная проблема — выгрузка данных.

Обычно внедрение занимает 5–6 недель кропотливой работы двух специалистов. Обследование — от 180 тысяч рублей, пилот — от 350 тысяч, обычно проект выходит в полмиллиона — 600–700 тысяч. Как правило, мы начинаем с одного отдела, а потом за сумму в разы меньше переносим систему на другие отделы.

А про окупаемость: окупается ли 1С? Окупается ли сайт? Мы делаем их, чтобы бизнес мог быстро принимать решения, чтобы все данные были удобно собраны в одном месте и к ним был прямой доступ.

Сейчас такие системы появляются в компаниях всё чаще. При этом, по исследованию МТС Web Services, у трёх из четырёх компаний, у которых есть деньги на нейросети, нет стратегии их внедрения. RAG-база — это только первая ступень использования нейросетей в своём деле. Этот модуль — must-have, обязательная вещь для компании.

Сейчас вы идёте в 1С, потом в Битрикс, в трекер, в Telegram, в банк и так далее. А будет одно место, которое показывает разные интерфейсы, но работает с данными, которые туда поступают. Всё, что развёрнуто у компании вовне, и всё, что работает внутри, может стать единым целым, а не разрозненными базами.

А у вас в компании где живут знания — в 1С, в чатах или в головах сотрудников? Пишите в комментариях, отвечу каждому.

Полное интервью со схемой работы такой системы — в блоге Do Digital. Обсудить проект для вашей компании — в Telegram @maksim_o или на сайте.