Что должен делать человек в агентной системе

Когда компания начинает собирать систему из AI-агентов, возникает закономерный вопрос: если агенты сами получают данные, анализируют их, передают результаты друг другу и выполняют действия, что в итоге остаётся человеку?

Плохой ответ — «только проверять работу AI».

Если человек превращается в диспетчера, который постоянно просматривает результаты агентов и вручную подтверждает каждое действие, автоматизация не состоялась. Компания просто перенесла привычную работу в новую оболочку.

В хорошей агентной системе роль человека меняется иначе. Он постепенно уходит от выполнения отдельных операций и начинает отвечать за то, как система принимает решения, какие цели преследует и где проходят границы допустимого.

AI-агенты особенно хорошо справляются с повторяющейся работой: собрать информацию, сравнить документы, классифицировать обращения, подготовить варианты, передать данные следующему этапу.

Конкурировать с ними в скорости выполнения таких операций бессмысленно.

Если сотрудник продолжает вручную делать то, что агент уже способен выполнять стабильно, компания получает лишь частичную автоматизацию. Более того, человек становится ограничивающим звеном всей системы.

Поэтому первый шаг — убрать человека из тех операций, где его участие больше не создаёт дополнительной ценности.

Но это не означает убрать его из процесса полностью.

Агент способен выполнить поставленную задачу, но сам по себе не определяет, зачем компания вообще её выполняет.

Например, агент может определить наиболее вероятного клиента для предложения, рассчитать показатель или выбрать подходящий вариант ответа. Но решение о том, какой показатель действительно важен для бизнеса, какие клиенты являются приоритетными и какой риск допустим, остаётся управленческой задачей.

Это уже не исполнение операции.

Это проектирование логики, по которой работает система.

У компании почти всегда есть ситуации, когда несколько правильных действий противоречат друг другу.

Например, можно:

· быстрее обработать заявку или глубже проверить данные;

· увеличить конверсию или снизить риск;

· сократить расходы или повысить качество;

· ответить клиенту сразу или сначала запросить дополнительную информацию.

AI может предложить оптимальный вариант при заданных условиях. Но сами условия должны быть определены бизнесом.

Если приоритеты не заданы, агент начинает выбирать их самостоятельно на основании контекста, который ему доступен. Именно здесь появляются решения, которые технически выглядят разумно, но не соответствуют интересам компании.

У любого агента должен быть ответ на вопрос: что ему разрешено делать самостоятельно, а где он обязан остановиться?

Одни действия можно полностью автоматизировать. Другие требуют дополнительной проверки.

Например, агент может самостоятельно:

· собрать информацию;

· подготовить расчёт;

· классифицировать обращение;

· сформировать черновик;

· обновить незначительный статус.

Но отправка коммерческого предложения с нестандартными условиями, изменение финансовых данных или выполнение действия с существенными последствиями может требовать отдельного подтверждения.

Человек здесь не является оператором каждого шага. Он устанавливает правила, по которым агент понимает, где заканчивается его ответственность.

Есть важное различие между проверкой каждого ответа и управлением качеством системы.

В первом случае сотрудник читает результаты один за другим и решает, можно ли их использовать.

Во втором он смотрит на процесс целиком:

· какие ошибки возникают чаще всего;

· на каких этапах они появляются;

· какие типы задач агент выполняет хуже;

· где чаще требуется вмешательство;

· меняется ли качество после обновления модели или инструкций;

· соответствует ли результат бизнес-целям.

Такой подход масштабируется намного лучше.

Человеку не нужно лично проверять тысячу операций. Ему нужно понимать, почему из тысячи операций система допустила определённое количество ошибок и что необходимо изменить, чтобы это не повторялось.

Если процесс хорошо спроектирован, большинство стандартных ситуаций проходит через систему без участия сотрудника.

Человек подключается тогда, когда ситуация выходит за установленные рамки.

Это может быть:

· неполный набор данных;

· конфликт между источниками;

· необычный запрос клиента;

· превышение допустимого риска;

· новое бизнес-условие;

· действие, для которого ещё нет правила.

В таком режиме сотрудник не обслуживает поток.

Он разбирает случаи, которые система пока не способна обработать самостоятельно.

Именно это позволяет одновременно повышать автоматизацию и сохранять управляемость.

Агентная система не должна оставаться неизменной после запуска.

В реальной работе появляются новые типы запросов, меняются правила, обнаруживаются слабые места, появляются исключения, которые невозможно было предусмотреть заранее.

Человек должен превращать этот опыт в изменения самой системы.

Если агент регулярно ошибается в определённой ситуации, недостаточно исправить несколько конкретных результатов. Нужно понять, почему система не распознаёт этот класс случаев.

Возможно, не хватает данных. Возможно, плохо определена роль агента. Может быть, нужен дополнительный этап проверки или отдельный специализированный агент.

Так работа человека постепенно смещается от исправления результатов к улучшению архитектуры.

Не каждое решение можно безопасно передать на самостоятельное обучение или адаптацию.

Некоторые изменения затрагивают правила бизнеса, юридические ограничения, финансовые риски или отношения с клиентами.

Поэтому человеку необходимо контролировать не только текущие результаты, но и изменения самой логики.

Например, если агент начинает предлагать новый способ обработки обращений, важно понимать, почему он это делает и какие последствия возникнут после масштабирования.

Система может находить закономерности.

Но право превращать закономерность в новое бизнес-правило должно оставаться под контролем компании.

Это не означает, что руководителю нужно разбираться в каждой технической детали модели.

Но он должен понимать хотя бы:

· какие агенты участвуют в процессе;

· за что отвечает каждый из них;

· какие данные они используют;

· какие действия могут выполнять;

· где стоят контрольные точки;

· какие решения требуют человека;

· что происходит при ошибке;

· кто отвечает за изменение каждого участка системы.

Без этого агентная система быстро превращается в набор автоматизаций, которые никто не способен уверенно объяснить.

В традиционном программном обеспечении сотрудник работает через интерфейс: открывает карточку, нажимает кнопку, вводит данные, получает результат.

В агентной системе интерфейс постепенно перестаёт быть центром работы.

Агент может сам найти информацию, вызвать нужный сервис, обработать данные и передать результат дальше.

Поэтому задача человека уже не в том, чтобы правильно нажать кнопку.

Его задача — понимать, какое решение должна принимать система и почему.

Это гораздо более высокий уровень работы.

При проектировании автоматизации часто возникает осторожная позиция: «Давайте пока поставим сотрудника на каждый этап. Так будет безопаснее».

На коротком промежутке это действительно снижает риск.

Но если такой подход сохраняется постоянно, компания не получает полноценную автоматизацию. Кроме того, сотрудники начинают выполнять проверки, необходимость которых никто не анализирует.

Лучше постепенно сокращать человеческое участие там, где накоплена достаточная статистика качества.

Если определённый этап стабильно работает в допустимых пределах, его можно перевести в полностью автоматический режим. Если другой этап регулярно создаёт риск, наоборот, усилить контроль.

Роль человека должна определяться не страхом перед AI, а реальным уровнем риска.

В агентной системе человек постепенно перемещается вверх по уровню абстракции.

Сначала он выполняет работу вместе с AI.

Затем начинает проверять отдельные результаты.

После этого контролирует исключения и качество процесса.

А на следующем уровне уже управляет самой системой: меняет правила, приоритеты, границы автономии и состав агентов.

Получается принципиальный сдвиг:

человек не исчезает из процесса — он перестаёт быть его ручным исполнителем.

Для руководителя это особенно заметно.

Раньше управление процессом часто строилось вокруг вопросов: кто выполняет задачу, сколько сотрудников нужно, сколько времени занимает операция.

В агентной системе появляются другие вопросы:

· какую часть работы можно передать агентам;

· какие решения должны оставаться за человеком;

· где система может действовать самостоятельно;

· какие показатели определяют качество;

· какие изменения требуют согласования;

· где возникает наибольший риск;

· как быстро система должна адаптироваться к новым условиям.

Это уже управление не только людьми, но и цифровой рабочей системой.

Есть области, которые особенно опасно передавать агентам без человеческого контроля.

В первую очередь это решения, где ошибка может существенно изменить финансовый результат, отношения с клиентом, юридическую позицию компании или стратегическое направление.

Причина не в том, что AI обязательно справится хуже человека.

Причина в другом: ответственность за такие решения остаётся у бизнеса.

Поэтому человек должен сохранять возможность понять решение, изменить его и остановить систему, если она начинает действовать за пределами допустимого.

В агентной системе человек нужен не для того, чтобы стоять над каждым AI-агентом с кнопкой «подтвердить».

Его работа становится другой: задавать цели и приоритеты, определять границы автономии, контролировать качество, разбирать нестандартные ситуации и менять систему, когда бизнес или сам процесс меняются.

Чем лучше настроена агентная архитектура, тем меньше человеку приходится заниматься операционной работой и тем больше — логикой и развитием системы.

Поэтому зрелость агентного внедрения можно оценивать не только по количеству задач, которые выполняет AI.

Не менее показательно другое: насколько человек освободился от исполнения и перешёл к управлению правилами, решениями и качеством всей системы.