Как эффективно внедрить ИИ-помощников в бизнес-процессы и не распугать сотрудников нейросетями

Вместе с Татьяной Шумайловой, экспертом направления повышения цифровой грамотности Kaspersky Security Awareness, разбираем пошаговый рецепт подключения AI.

Выбираем, что может оказаться выгодно автоматизировать, тренируем сотрудников, поэтапно тестируем, защищаем от потенциальных рисков: снижения мотивации и текучки кадров, а также оттока клиентов и штрафов.

Около трети компаний в сфере малого и среднего бизнеса в России уже используют нейросети и генеративный ИИ. Но бывает так, что такие внедрения разрозненны, редко просчитаны экономически и зачастую ведутся сотрудниками-энтузиастами на свой страх и риск. Поэтому и результаты получаются разношерстные — у одних нейросеть почти заменила менеджеров по продажам, а у других чат-бот клиентской поддержки выдумывает несуществующие правила возврата авиабилетов или продает клиентам автомобиль за доллар. Специальные эксперименты подтверждают сложность задачи: внедрение ChatGPT в работу Boston Consulting Group привело к ускорению работы сотрудников на 25%, но одновременно они на 19% чаще совершали ошибки в тех задачах, где бот помочь не мог. В детальном отчете BCG есть много интересных и не очень интуитивных нюансов, но главный вывод прост — внедрять ИИ в бизнес надо медленно и поэтапно, тщательно оценивая все аспекты результата и активно тренируя сотрудников.

Зачастую у руководителей и собственников бизнеса есть интуитивное знание об областях, где языковые модели (LLM) принесут ощутимую пользу. Это те процессы, в которых велика доля монотонных типовых работ, основанных на работе с примерно похожими текстами: техподдержка, составление описаний товаров для маркетплейсов, чтение резюме и так далее. Но можно опираться и на опыт других компаний, описанный, например, в отчете BCG или НАФИ.

Начинать стоит с тех сфер, где у компании есть измеримая проблема (высокие затраты на бизнес-функцию, кадровый дефицит, низкая производительность труда), а потенциальный прирост эффективности значителен.

В этих приоритетных сферах нужно подробно описать бизнес-процессы: поговорить с сотрудниками, понять, как они делят время между ежедневными задачами, найти те, которые занимают много времени, повторяются, подвержены ошибкам. Например, ответы на частые вопросы клиентов, обработка заказов, отслеживание уровня запасов, рутинные коммуникации. Даже если нельзя оценить каждый процесс в цифрах, важно хотя бы примерно понять, сколько времени уходит на эти задачи у сотрудников и какого качества результатов им удается достичь.

Нужно взглянуть на процессы и с точки зрения клиента: где и когда он слишком долго ждет ответа, получает недостаточно данных или данные не адаптированы под его ситуацию и нужды.

Ответив на эти вопросы, руководство получит 2-3 приоритетных проекта, имеющих наибольший потенциал выигрыша от ИИ: «автоматизируем процесс Х в подразделении Y». Не стоит внедрять нейросети во все эти сферы сразу, лучше действовать поэтапно, чтобы лучше контролировать результат и быстро исправлять возможные ошибки.

Далее нужно выбрать подходящую для бизнеса нейросеть или сервис с нужными функциями ИИ, но этот вопрос настолько большой, что заслуживает отдельной статьи.

Чтобы обучить нейросеть так, чтобы она действительно стала эффективным помощником для компании, ей придется «отдать» много информации, касающейся конкретной области работ. Например, «виртуальному» менеджеру по продажам потребуются подробные описания всех продуктов организации, прайс-лист и список текущих акций, а «виртуальному» специалисту по техподдержке — полный текст часто задаваемых вопросов и ответов на них, и так далее. Важна достаточная полнота информации — нейросеть должна на примерах обучиться всему, в чем она будет помогать специалистам.

Данные потребуется систематизировать, оформить в виде, пригодном для нейросети (сформировать подсказку, system prompt), а также очистить от конфиденциальной информации, которую чат-бот может случайно выдать клиентам и контрагентам.

Чтобы это сделать корректно, команде проекта нужно подробно ознакомиться с рисками внедрения ИИ, например пройти специальный онлайн-курс по вопросам безопасной работы с нейросетями.

В большинстве случаев реального внедрения нейросеть не заменяет живого человека, а помогает ему. Но многие сотрудники опасаются потерять свою работу, а также не имеют нужных навыков, чтобы пользоваться ИИ эффективно. Поэтому в процессе внедрения нейросетей нужно обязательно обучать команду, проводить тренинги. Задача руководства — четко описать имеющийся план по внедрению ИИ, его этапы и цели, объяснить, как в идеальном будущем будет строиться работа. Хорошо, если в этом сообщении будет четкий сигнал, например, что сокращений не предвидится.

Важно проводить общий тренинг по применению ИИ для сотрудников. Он должен включать краткий обзор того, как работают генеративные нейросети, что они могут и не могут, какие существуют спорные вопросы с точки зрения использования нейросетей: вопросы галлюцинаций нейросетей, вопросы авторских прав, проблема потенциальной утечки данных. Разумеется, тренинг должен включать конкретные рекомендации по поведению в компании, внедрившей нейросети в рабочие процессы.

Ключевые моменты, обязательные для тренинга:

· Особенности обработки данных. Как компания хранит и обрабатывает коммерческую тайну и персональные данные в ИИ-процессах?

· Что можно, а что нельзя делать при помощи LLM-инструмента?

· Какие меры обязательно принимать перед отправкой данных в нейросеть?

· Как контролировать результаты ИИ-помощника?

· Что делать, если система перестала работать или выдает явно ошибочную информацию?

Чтобы не собирать людей на длинные лекции, можно предложить им геймифицированный онлайн-тренинг, который проходить комфортнее. К тому же он позволяет лучше запомнить материал. Например, базовый и продвинутый курсы по безопасному применению нейросетей есть на онлайн-платформе Kaspersky Automated Security Awareness Platform. Она решает именно эту задачу — чтобы сотрудники приобрели конкретные навыки кибербезопасности. Помимо курса по ИИ работников можно обучить общим правилам цифровой гигиены, способам реагирования и защиты от кибератак (cybersecurity awareness).

Тема ИИ-рисков обширна — не зря некоторые страны торопятся принять законы и регламенты о безопасном внедрении AI. Поэтому мы лишь кратко перечислим основные потенциальные риски, которые нужно учитывать:

· Иски за нелегальное коммерческое использование. Многие ИИ-сервисы явно запрещают использование своих решений в коммерческих целях. Да и с платными могут быть различные исключения. Внимательно читайте лицензию, чтобы не столкнуться с неприятностями.

· Утечки данных при работе нейросети. Весь обмен запросами и ответами сохраняется на серверах поставщика ИИ-модели, а также любых промежуточных сервисов, используемых для общения с нейросетью. При краже или утечке паролей и API-ключей вся эта информация может уйти злоумышленникам за считанные минуты.

· Нарушение авторских прав. Кто владеет правами на созданные нейросетью тексты и картинки — до сих пор вопрос спорный, поэтому ИИ-генерации, слишком похожие на уже имеющиеся произведения, могут породить долгосрочную тяжбу для компании. Это особенно крупный риск при автоматизации маркетинга.

· Штрафы регуляторов. Если нейросеть общается с клиентами или получает о них базовую информацию в рамках другого бизнес-процесса, то, скорее всего, происходит передача конфиденциальных данных, причем может быть даже за пределы страны. В зависимости от сферы деятельности и масштаба бизнеса это может быть нарушением законодательства.

· Риски отключения или замены модели. По некоторым оценкам, экономика ИИ-сервисов пока неустойчива, поэтому есть риски закрытия отдельных сервисов. В этом случае придется спешно переходить на работу по старинке или срочно менять поставщика. В более мягком сценарии поставщик просто модифицирует свою языковую модель. Хотя новая версия обычно работает лучше старой, на некоторых задачах ответы обновленной модели могут оказаться неудовлетворительными.

· Рост стоимости работы. Недавняя утечка финансовых планов OpenAI показала, что компания хочет за несколько лет повысить цену своих услуг вдвое. Конкуренты будут поступать аналогично, поэтому оценивать экономику ИИ-внедрений надо с учетом этого будущего роста себестоимости.

· Галлюцинации, их правовые и PR-последствия. Иногда LLM убедительно и связно выдает некорректную информацию или что-то вообще не относящееся к выполняемой работе — в начале статьи есть два ярких примера. Полностью предотвратить это сложно, стоит сосредоточиться на том, чтобы такие инциденты не могли нанести ущерб: снабжать чаты с ИИ подсказками и уведомлением об отказе от ответственности, проверять результаты работы нейросети выборочно или целиком с помощью живого эксперта.

· Неудовлетворительные ответы. Тихий, но заметный риск — неудовольствие клиентов или других потребителей ИИ-контента. Бот техподдержки отвечает мгновенно, но не решает проблему клиента. Генератор описаний к товарам пишет корректно, но не убедительно. Чтобы знать, существует ли такая проблема, нужно продумать механизм обратной связи — как клиент может пожаловаться и быстро пояснить, что было не так?

· Снижение эффективности работы. Плохая интеграция нейросети или неудовлетворительное качество ее ответов могут увеличивать, а не снижать нагрузку на сотрудников. О том, как этого избежать, расскажем чуть ниже.

Сделав нужную техническую интеграцию или активировав ИИ-функции в облачном продукте, на котором работает компания, важно начать с обширного внутреннего тестирования. Пусть сами сотрудники отдела, который будет пользоваться нейросетью, примерят на себя роль клиента и детально оценят качество генерации. Ключевой момент — нужно проверять работу на сценариях, в которых известен правильный ответ, то есть желаемый конечный результат работы. Если тестируют ИИ-техподдержку, надо задать боту все типичные вопросы клиентов, если ИИ-маркетолога — детально изучить созданные им тексты или картинки.

Если результаты удовлетворительны, то после неизбежных мелких доработок систему можно поэтапно внедрять в реальное использование. На первом этапе ей нужно «усилить» очень небольшое число сотрудников, причем желательно как лидеров эффективности, так и отстающих. Может оказаться, что результаты автоматизации для них неодинаковы. По итогам первых дней и недель их работы, нужно заново измерить ключевые показатели, которые были выявлены при первичном бизнес-анализе: количество обработанных заказов, скорость ответа клиентам, и так далее. Важно не ограничиваться сухими цифрами, а вникнуть в суть изменений — поговорить с клиентами и оценить степень их удовлетворенности, расспросить сотрудников, появилось ли у них больше времени и стали ли они быстрее выполнять те или иные задачи.

В оптимистичном сценарии время и затраты на выполнение одной операции снизятся, а степень удовлетворенности участников вырастет, но возможны и более сложные случаи. Например, внедрение ИИ в аналитику инвестбанка Goldman Sachs привело к тому, что затраты времени на обновление исторических данных снизились, но стоимость работы ИИ превысила цену времени живых сотрудников вшестеро. Возможно, рост производительности будет сопровождаться и ростом числа ошибок, в том числе опасных.

Если результаты теста неудовлетворительны, в зависимости от нюансов ситуации можно либо дополнительно настроить ИИ-модель, либо уточнить процессы на ее основе, либо заменить ИИ-поставщика, либо поставить проект на паузу — например до появления более точных и дешевых моделей. Если же все идет по оптимистичному сценарию, автоматизацию можно постепенно внедрять более широко, продолжая отслеживать ее эффективность. Ну и, конечно, переходить к изучению других процессов в компании, которые могут выиграть от появления нейросетей.