В 4 раза быстрее. Как корпоративные нейросети ускоряют процессы
Реальная практика российских компаний
Активное внедрение искусственного интеллекта в компаниях стало возможным благодаря накопленным за последнее десятилетие техническим достижениям. Разбираемся, что такое закрытые корпоративные нейросети, какие задачи они решают и какие варианты существуют для разработки собственных AI-моделей.
Содержание
Что такое корпоративная нейросеть
Корпоративная нейросеть — это AI-модель, разработанная или адаптированная специально под нужды определённой организации и работающая внутри её ИТ-контура. В отличие от публичных сервисов, такая система обучается и функционирует на собственных данных компании, что обеспечивает более высокий уровень кастомизации и безопасности.
Особенности корпоративных нейросетей:
- настроенная архитектура (разработчики точно определяют источники данных для нейросети и алгоритмы их использования);
- отраслевая специализация (как правило, корпоративные нейросети адаптированы под специфические отраслевые и правовые требования);
- интеграция с корпоративными ИТ-системами (корпоративные нейросети могут быть встроены в CRM, ERP, BI-решения и другие платформы, которые использует бизнес);
- закрытый контур (информацию хранят и обрабатывают в защищённой инфраструктуре компании).
Ключевой момент при разработке корпоративной нейросети — это её обучение. Здесь можно выделить два основных подхода.
Подход 1. Небольшие языковые модели
SLM (от англ. small language models — «маленькие языковые модели») — это модели с меньшим количеством параметров, чем у классических LLM (от англ. large language models — «большие языковые модели»). Здесь вместо сотен миллиардов просто миллиарды. На обучение таких нейросетей потребуется в десятки раз меньше вычислительных мощностей, чем на обучение LLM.
Эксперты отмечают, что SLM лучше справляются с узкоспециализированными и прикладными задачами. При этом они могут работать при серьёзных инфраструктурных ограничениях, в том числе даже на базовом оборудовании и простых видеокартах. Также эти решения в бизнесе используют для пилотных проектов. Например, на основе SML делают AI-сервис и тестируют его, а при дальнейшем масштабировании могут перейти с SML на LLM.
Такой подход — это не кастомизация уже существующей модели, а полноценная её разработка, которая требует соответствующих ресурсов и компетенций. Поэтому решение о его применении должно приниматься на основе задач бизнеса и экономической целесообразности.
Подход 2. Большие языковые модели (LLM)
Компании могут разработать собственную большую языковую модель, например как GigaChat Сбера, либо дообучить существующую open-source-модель с использованием собственных корпоративных данных.
- Кейс 1. Дообучение нейросети на корпоративной базе знаний. Разработчик ИТ-решений внедрил AI для поиска по корпоративной информации (регламентов, договоров, инструкций). Модель сокращает время поиска и предлагает ёмкие структурированные ответы на основе данных о продуктах, образцов договоров, внутренних регламентов, должностных инструкций, обучающих материалов и других корпоративных источников. Скорость работы пользователей с базой знаний выросла в 4 раза.
- Кейс 2. Дообучение LLM на узкоспециализированных профессиональных данных. Медико-генетический центр дообучил нейросеть на датасете изображений для идентификации и подсчёта микроорганизмов при лабораторных исследованиях. У микроорганизмов огромное количество параметров и модель должна была замечать нюансы и отличать их по мельчайшим деталям. В результате нейросеть ускорила проведение отдельных исследований на 80%.
- Кейс 3. Специфическая кастомизация. В студии шрифтового дизайна упор при кастомизации корпоративной нейросети был сделан на определённые настройки: компании было важно сохранить естественность и персонализацию общения с клиентами как при живом менеджере. Также AI был интегрирован с CRM, дообучен на истории взаимодействий компании и поддерживал десятки языков. Сейчас около 85% типовых запросов в отдел продаж обрабатываются нейросетью.
По данным аналитиков, внедрения корпоративных нейросетей в России будет расти. Так, эксперты ожидают, что по итогам этого года рынок AI-технологий в стране увеличится примерно на 30% (до 1,9 трлн рублей). Одним из главных драйверов выступит спрос бизнеса на нейросети. Например, в ближайшие два года в промышленности много GenAI-проектов будут переходить от стадии пилотных внедрений к полноценной эксплуатации.
Чек-лист: нужна ли вашему бизнесу корпоративная нейросеть?
Компаниям необходимо ответить на три ключевых вопроса.
- Есть ли процессы, которые нужно оптимизировать с помощью AI?
Необходимо выделить основные направления и избежать избыточных функций: внедрять AI только для того, чтобы следовать трендам, — это не лучшая стратегия.
- Достаточно ли качественных данных для обучения модели?
Необходимо обеспечить их актуальность, полноту и валидность. Кроме того, перед обучением данные нужно структурировать, разметить и очистить.
- Есть ли у компании компетенции, ресурсы и инфраструктура для реализации такого проекта?
Корпоративная нейросеть может быть развёрнута на локальных серверах, в облаке или в гибридном формате. Для её разработки и поддержки нужны специалисты в data science и генеративном искусственном интеллекте. Также необходимо учитывать скрытые расходы на подготовку данных, интеграцию и дообучение модели.
Как думаете, станут ли в будущем корпоративные нейросети таким же обязательным и привычным инструментом любого бизнеса, как, например, корпоративный сайт? Или это очень узкоспециализированная технология? Делитесь своим мнением в комментариях.