Нейросеть по вашим правилам: как соблюсти баланс между человеческим и искусственным интеллектом

Повышенное внимание рынка к технологиям нейросетей и глубокого машинного обучения – основа для определенных опасений. Так, создается впечатление, что искусственный интеллект заменит многие специальности, в том числе в сфере ИТ. На практике наиболее эффективен комплексный подход, когда нейросети работают в связке с простыми алгоритмами. И участие человека – для контроля за процессом и проверки – все еще обязательно. Подробнее о поиске баланса между различными технологиями разбираемся с командой «Преферентум» (компания SL Soft).

Примерно 25 лет на ИТ-рынке мы наблюдаем за волнами хайпа вокруг той или иной прорывной технологии. Доля специалистов и бизнес-пользователей не скупится на довольно громкие заявления вроде «облачные технологии – наше все», теперь пришла очередь нейросетей. И здесь вспоминается афоризм: если у вас в руках молоток, то все вокруг кажется гвоздями.

Накопленный опыт реализации проектов для заказчиков научил нас придерживаться более прагматичного подхода. Машинное обучение (ML), какую бы полезную функцию оно не выполняло в компании, не панацея от всех бед. Это только один из многих методов решения практических задач.

Когда Machine Learning начинает приносить пользу

Для эффективного применения технологий машинного обучения необходимо выполнение ряда условий. В частности, в компании должны быть устоявшиеся бизнес-процессы, которые производят размеченные данные в достаточном количестве. При массовом бизнес-процессе (например, рассмотрение кредитных заявок) данные должны регулярно фиксироваться в информационных системах в унифицированном виде – то есть формируется обучающая выборка. Это позволяет организовать обучение моделей. Тогда повышаются шансы на успешное применение ML. Напротив, отсутствие готовых обучающих выборок и необходимость трудоемкой и сложной ручной разметки такие шансы снижают.

Цифровизиируемые с помощью ИИ бизнес-процессы всегда строятся на анализе практики «ручной» работы. Например, операторы техподдержки ИТ-вендора на протяжении долгого времени по определенным критериям и методологии классифицировали входящие обращения в своей прикладной системе. Эта информация может быть извлечена, обработана и использована в качестве обучающей выборки.

Другой пример – автоматизация маршрутизации входящих документов по исполнителям в системе электронного документооборота. Накопленная информация о том, кому из специалистов какой документ нужно отправить, какие сообщения считаются срочными, а какие нет, к какому подразделению относится документ, позволяет обучить модель так, чтобы она выполняла эту работу за человека с высокой степенью точности.

Еще одно условие: в бизнес-процессах компании должна сохраняться некая «толерантность к ошибкам» при выполнении той или иной функции. Например, если специалист неверно определил категорию входящей заявки на первой линии техподдержки – это, по сути, не приведет к серьезным последствиям: оператор второй линии сможет скорректировать маршрутизацию и отправить заявку в нужный отдел. Вполне нормально, если сотрудник выполняет однотипные действия с точностью, скажем, 95%, то есть из 100 заявок правильно обрабатывает 95. Остальное списывается на тривиальный «человеческий фактор»: отвлекся, рука дрогнула, принял неверное решение и т. д.

Используя технологию машинного обучения, мы можем ускорить обработку типовых рутинных задач – но полностью застраховать себя от ошибок практически никогда не сможем. В большинстве бизнес-процессов, даже самых регламентированных, есть исключения, нетиповые случаи и аномалии. К тому же ML-модели при обучении иногда бывает сложно объяснить причинно-следственную связь: например, почему документы направляются именно этому конкретному исполнителю. Система, даже продвинутая и самообучающаяся, все равно действует по алгоритмам.

Человек и технологии: ищем баланс

Искусственный интеллект – не «серебряная пуля», его нужно использовать в определенных условиях. В реальных проектах внедрения мы, например, всегда делаем на этом акцент. Условно говоря, автоматизируя классификацию и маршрутизацию входящей документации, мы прописываем, что система, основанная на технологиях ML, сможет обрабатывать с высокой точностью 80% от всего объема документов, а обрабатывать оставшиеся 20% документов будут специалисты. Но даже в этом случае мы гарантируем, что с помощью технологий ML существенно сокращаются трудозатраты подразделения, ускоряется обработка информации, снижаются риски. А наибольшая эффективность достигается за счет совместного использования интеллектов, человеческого и искусственного.

Но часто к нам обращаются заказчики, у которых на момент начала проекта существуют устоявшиеся бизнес-процессы, но нет практики создания обучающих выборок. Например, специалисты регистрируют и проверяют технические задания на закупки, находят в них ошибки и указывают авторам на необходимость корректировки: это может быть неверное использование ссылки на нормативный документ, некорректное указание размерности физических величин и т. д. Но результат этой работы не приводит к появлению готового обучающего дата-сета, поскольку все знания остаются в головах людей или хранятся разрозненно в электронной почте. Необходимо потратить огромное количество времени, чтобы собрать все сведения в единое хранилище и обработать. В таких случаях мы применяем подходы, основанные на простых алгоритмических правилах. Если задачу можно решить более простым способом, то незачем ее усложнять.

Бывает и сценарии, в которых бизнес-процесс настолько изменчив, что применить какие-то методы машинного обучения к нему в принципе невозможно.

Поэтому наша задача при проектировании автоматизированного решения с использованием ИИ состоит, в первую очередь, в том, чтобы заранее понять, какое качество обработки и для какой доли информационного потока требуется. После чего мы выбираем оптимальные из всех существующих инструментов, применяя комбинированный подход. Искусственный интеллект еще очень долгое время будет не заменой, а только полезным помощником человека.

.