Год агентского ИИ: Шесть уроков от людей, которые выполняют эту работу

Привет друзья! Сегодня мы решили затронуть тему агентского ИИ. Известное консалтинговое агентство McKinsey провело исследование, основанное на анализе более 50 проектов по внедрению ИИ-агентов, а также десятков других случаев на рынке. Эксперты McKinsey Global Institute и QuantumBlack Labs делятся практическими уроками для успешного внедрения агентского ИИ в корпоративной среде.

Спустя год после революции агентского ИИ один урок стал ясным: для успеха требуется усердная работа.

Трансформация предприятия с помощью агентского ИИ обещает беспрецедентную продуктивность. В то время как некоторые компании уже получили первые успехи в таких проектах, многие другие считают успешную имплементацию ИИ-агентов сложным процессом. В некоторых случаях они даже отступают — повторно нанимая людей там, где агенты потерпели неудачу.

Достижение бизнес-ценности с помощью агентского ИИ требует изменения рабочих процессов. Однако часто организации слишком сосредотачиваются на агенте или агентском инструменте. Это неизбежно приводит к прекрасно выглядящим агентам, которые на самом деле не улучшают общий рабочий процесс, что приводит к разочаровыванию.

Усилия в области агентского ИИ, которые сосредоточены на фундаментальном переосмыслении целых рабочих процессов — то есть шагов, которые включают людей, процессы и технологии — с большей вероятностью принесут положительный результат.

Важной отправной точкой в переработке рабочих процессов является картирование процессов и выявление ключевых болевых точек пользователей. Этот шаг критически важен при разработке агентских систем, которые сокращают ненужную работу и позволяют агентам и людям сотрудничать и достигать бизнес-целей более эффективно. Это сотрудничество может происходить через циклы обучения и механизмы обратной связи, создавая самоподдерживающуюся систему. Чем чаще используются агенты, тем умнее и более согласованными они становятся.

Рассмотрим провайдера альтернативных юридических услуг, который работал над модернизацией своих рабочих процессов проверки контрактов. Юридическое право в области компании постоянно развивается , с новой судебной практикой, юрисдикционными нюансами и интерпретациями политики, что затрудняет кодификацию экспертизы.

Чтобы учесть естественную вариативность, команда спроектировала свои агентские системы для обучения в рамках рабочего процесса. Каждое редактирование пользователя в редакторе документов, например, регистрировалось и категоризировалось. Это предоставило инженерам и специалистам по данным большой поток ценной обратной связи, который они затем могли использовать для обучения агентов, корректировки логики промптов и обогащения базы знаний. Со временем агенты смогли кодифицировать новую экспертизу.

ИИ-агенты могут многое, но их не обязательно нужно использовать для всего. Слишком часто руководители недостаточно внимательно изучают работу, которую нужно выполнить.

Чтобы помочь избежать напрасных инвестиций или нежелательной сложности, бизнес-лидеры могут подходить к роли агентов так же, как они это делают при оценке людей для высокоэффективной команды. Ключевой вопрос: «Какую работу нужно выполнить и каковы относительные таланты каждого потенциального члена команды — или агента — для совместной работы по достижению этих целей?»

Бизнес-проблемы часто можно решить с помощью более простых подходов к автоматизации, таких как автоматизация на основе правил, предиктивная аналитика или промптинг больших языковых моделей (LLM), которые могут быть более надежными.

Одна из самых распространенных ловушек, с которыми сталкиваются команды при развертывании ИИ-агентов, — это агентские системы, которые выглядят впечатляюще в демонстрациях, но расстраивают пользователей, которые фактически ответственны за работу. Часто можно услышать жалобы пользователей на «ИИ-халтуру» или низкокачественные результаты. Пользователи быстро теряют доверие к агентам, и уровень принятия их становится низким.

Тяжело усвоенный урок этой повторяющейся проблемы заключается в том, что компании должны активно инвестировать в развитие агентов, точно так же, как они это делают для развития сотрудников. Как сказал нам один бизнес-лидер: «Адаптация агентов больше похожа на найм нового сотрудника, чем на развертывание программного обеспечения». Агентам следует давать четкие должностные инструкции, проводить адаптацию и давать постоянную обратную связь, чтобы они становились более эффективными и регулярно улучшались.

Когда работаете только с несколькими ИИ-агентами, проверка их работы и выявление ошибок может быть в основном простой. Но когда компании развертывают сотни или даже тысячи агентов, задача становится сложной. Усугубляет проблему то, что многие компании отслеживают только результаты. Поэтому, когда происходит ошибка — а ошибки всегда будут, когда компании масштабируют агентов — трудно точно выяснить, что пошло не так.

Производительность агентов должна проверяться на каждом этапе рабочего процесса. Встраивание мониторинга и оценки в рабочий процесс может позволить командам рано выявлять ошибки, совершенствовать логику и постоянно улучшать производительность даже после развертывания агентов.

В спешке добиться прогресса с агентским ИИ компании часто создают уникального агента для каждой выявленной задачи. Это может привести к значительной избыточности и расточительности, поскольку один и тот же агент часто может выполнять различные задачи, которые разделяют многие из одних и тех же действий (такие как поглощение, извлечение, поиск и анализ).

Решение о том, сколько инвестировать в создание повторно используемых агентов (по сравнению с агентом, который выполняет одну конкретную задачу), аналогично классической проблеме ИТ-архитектуры, где компании должны строить быстро, но не блокировать выборы, которые ограничивают будущие возможности.

По мере того как ИИ-агенты продолжают распространяться, вопрос о том, какую роль будут играть люди, вызывает много беспокойства — с одной стороны, о безопасности работы, а с другой — о высоких ожиданиях роста продуктивности. Это привело к кардинально расходящимся взглядам на роль людей во многих современных работах.

Чтобы быть ясным: агенты смогут многое делать, но люди останутся важной частью уравнения рабочей силы, даже когда тип работы, которую выполняют как агенты, так и люди, со временем изменится. Людям нужно будет контролировать точность моделей, обеспечивать соблюдение требований, использовать суждение и обрабатывать пограничные случаи, например.

Мир ИИ-агентов развивается быстро, поэтому нам предстоит изучить еще много уроков. Но если компании не подходят к своим агентским программам с установкой на обучение (и воплощают ее на практике), они, скорее всего, повторят ошибки и замедлят свой прогресс.