Почему к ИИ-агентам теперь нужно относиться как к личностям при разработке ПО?

UX-cообщество быстро приняло большие языковые модели (LLM) как инструменты проектирования, но не оценило последствия такого взаимодействия. ИИ-агенты превращаются из простого инструмента для дизайнера в активных участников нашей цифровой среды. Теперь не они создают дизайны для нас, а мы должны разрабатывать дизайн для них. В этой статье мы расскажем, почему важно учитывать «потребности» и пользователей-людей, и ИИ-агентов, и какова роль UX-дизайнеров в создании среды для работы ИИ-агентов?

ИИ-агенты самостоятельно перемещаются по разработанным нами интерфейсам и выполняют сложные задачи от нашего имени. Началась новая эра взаимодействия агента и компьютера, когда пользовательский опыт включает в себя не только взаимоотношения человека и компьютера, но и опыт взаимодействия ИИ-агентов.

Разумеется, люди остаются неотъемлемой частью новой динамики, обеспечивая надзор и руководство. Тем не менее, ИИ-агенты теперь должны рассматриваться как отдельные пользователи, с уникальными потребностями, возможностями и целями. Это подразумевает разработку опыта как для людей, так и для агентов, создание интерфейсов, ориентированных на них, и обеспечение их необходимыми ресурсами и информацией для эффективной работы.

Google I/O определил ИИ-агентов как интеллектуальные системы, способные рассуждать, планировать, сохранять информацию и думать на несколько шагов вперед, при этом работая в различных программах и системах под контролем человека. Другие компании формулируют свои определения иначе, но всё же разделяют одну важную концепцию: агент — это ИИ, способный думать на несколько шагов вперед и сохранять контекст, работая при этом самостоятельно. Удобно иметь цифрового помощника, который способен предугадывать наши потребности и проактивно решать проблемы. Но какие от этого могут быть последствия?

Если ранние ИИ-агенты для взаимодействия с другими системами полагались исключительно на API, то недавние прорывы, особенно в области «использования компьютера», пионером которого стали такие модели, как Claude, открыли новый уровень самостоятельности. Теперь эти продвинутые агенты могут напрямую взаимодействовать с графическими пользовательскими интерфейсами, управляя курсором, вводя данные и перемещаясь по приложениям точно так же, как и человек. Это позволяет им выполнять задачи с невиданным ранее уровнем автономности и дотошности.

В эту новую эру взаимодействия агентов и компьютеров команды разработчиков ИИ должны выбрать один из двух подходов, позволяющих ИИ-агентам взаимодействовать с программным обеспечением:

1. Прямая интеграция API или «использование инструментов»

Использование API для программного взаимодействия с системами. Такой подход более эффективен, поскольку позволяет избежать накладных расходов на визуальное отображение интерфейсов, однако качество и охват API могут быть разными.

2. Визуальное взаимодействие интерфейсов или «человеческие инструменты»

ИИ-агенты взаимодействуют с программным обеспечением через графические пользовательские интерфейсы, как это делают люди. Хотя этот подход потенциально медленнее, он обеспечивает большую прозрачность и позволяет людям лучше отслеживать и контролировать действия ИИ.

Интеграция API может быть идеальной для выполнения большого количества четко определенных задач, где скорость и эффективность имеют наибольшее значение.

Визуальное взаимодействие с интерфейсом может лучше подходить для задач, требующих тщательного контроля со стороны человека, обеспечивая большую прозрачность и контроль. Перед специалистами по UX и межфункциональными партнерами стоит важная задача — определить наиболее эффективный метод взаимодействия для каждого конкретного случая использования и взаимоотношений с конечными пользователями.

По мере того как агенты искусственного интеллекта превращаются в активных пользователей наших цифровых продуктов, UX-дизайнерам необходимо расширять свою практику и учитывать интересы новых участников. Так же, как мы изучаем потребности человеческих пользователей, мы должны понять возможности ИИ-агентов: что им требуется для эффективной работы и как они достигают поставленных целей.

Хотя агенты в конечном итоге служат человеческим целям, они всё равно часто работают в сложных сетях, где взаимодействуют с другими агентами для выполнения задач. Например, один агент может обрабатывать данные, которые другой агент использует для составления рекомендаций, и все это в ответ на первоначальный запрос человека. Это создает новые уровни взаимодействия, которые разработчики должны учитывать и поддерживать.

Как мы описывали портреты пользователей-людей, так теперь мы должны прописывать потребности, цели и боли для ИИ-агентов. Эти портреты должны отражать нюансы поведения агента, его сильные и слабые стороны, а также его развивающиеся возможности по мере развития технологий и контекста. Это позволит разрабатывать интерфейсы и взаимодействия, оптимизированные для рабочих процессов агентов, как если бы они были просто людьми.

Для этого используют новые исследовательские методики, такие как A/B-тестирование различных дизайнов интерфейса, чтобы определить, какой из них лучше всего способствует работе агента. Хотя системы ИИ не могут быть разумными, они уже обладают мотивацией, могут рассуждать, планировать и адаптироваться.

Эта новая эра ставит перед нами фундаментальный вопрос: должны ли интерфейсы быть оптимизированы для людей, агентов или и тех, и других?

Ответ на этот вопрос пока не найден, поскольку мы движемся по этой неизведанной территории. Ключевым моментом является признание того, что ИИ-агенты — это не просто инструменты, а самостоятельные пользователи, что требует вдумчивого подхода к проектированию и тонкого понимания уникальных потребностей агентов.

Когда мобильные устройства ворвались в мир компьютеров, сначала мы рассматривали их как уменьшенную версию ПК. Однако вскоре мы раскрыли уникальный потенциал мобильных устройств, и это изменило мир настолько сильно, что это было трудно предсказать. Точно так же мы сейчас смотрим на развитие ИИ, и только время покажет, как новый опыт будет сформирован. И есть предположение, что это будет совсем не так, как мы ожидаем. Ясно лишь одно: мы движемся по траектории от веб-приложений к мобильным приложениям, сформированным ИИ-агентами.

Большие языковые модели (LLM) — это «мозги» ИИ-агентов, наделяющие их интеллектом и способностью рассуждать. Но UX-дизайнеры должны сыграть решающую роль в формировании этих LLM, выходя за рамки дизайна интерфейса и влияя на саму суть поведения агентов.

Дизайнеры обладают уникальным пониманием потребностей и ментальных моделей пользователей. Этот опыт неоценим для создания эффективных подсказок, которые направляют LLM к желаемым результатам. Тесно сотрудничая с инженерами в разработке системных подсказок, соответствующих намерениям пользователей, дизайнеры смогут обеспечить актуальный и значимый опыт агентов ИИ, который будет работать на благо людей.

Более того, UX-дизайнеры должны активно участвовать в разработке стратегий оценки работы агента и использования обратной связи с пользователями для совершенствования поведения LLM. Это предполагает создание маховика данных, который постоянно улучшает способность агента понимать и реагировать на потребности пользователя.

Разработка ИИ-агентов требует изменения мышления. Мы не просто создаем продукт, которым они будут пользоваться, — мы активно формируем самих агентов, влияя на их интеллект и поведение с помощью тщательных подсказок и постоянной обратной связи. Это новый рубеж для UX, где экспертиза дизайнера распространяется на самое сердце ИИ.

Хотя проектирование ИИ-агентов ставит новые интересные задачи, мы никогда не должны упускать из виду нашу конечную цель: улучшение человеческого опыта. ИИ должен служить человечеству, и наши усилия по проектированию должны быть направлены на удовлетворение человеческих потребностей и ценностей.

Контроль имеет первостепенное значение. Специалисты по UX должны тщательно продумать, как предоставить пользователям возможность управлять взаимодействием с ИИ.

Контроль за ИИ-агентами включает в себя:

Установление доверия через контроль над пользователями очень важно для успешного внедрения опыта, управляемого агентами.

Не менее важна и прозрачность. Пользователям необходимо иметь четкое представление о том, как ИИ-агенты используют их данные, взаимодействуют с их инструментами и сотрудничают с другими агентами. В сценариях с участием нескольких агентов из разных компаний пользователи должны иметь представление об участниках и возможность выбирать, какие организации они допускают в свою цифровую экосистему.

К счастью, для навигации по этому сложному ландшафту мы можем воспользоваться существующими UX-фреймворками. Системный дизайн, например, предлагает ценные инструменты для визуализации сложных взаимоотношений в экосистемах, управляемых агентами, сохраняя при этом человекоориентированную перспективу. Адаптировав методы отображения, такие как чертежи, обычно используемые в дизайне услуг, мы можем эффективно представить взаимодействие между людьми, агентами и продуктами, выделив линии видимости и контроля.

Эти модифицированные чертежи, которые мы можем назвать «картами агентского опыта», должны не только отображать поток взаимодействий, но и включать в себя элементы, связанные с обучением и оценкой агентов. Такое целостное видение позволит нам разрабатывать системы, которые будут одновременно мощными и надежными, гарантируя, что ИИ действительно ставит человека на первое место.

Мы вступаем в новую фазу цифрового дизайна, когда ИИ-агенты становятся активными пользователями наших систем, а не просто их инструментами. Этот сдвиг требует от UX-дизайнеров расширения кругозора и рассмотрения того, как люди и агенты ИИ взаимодействуют с интерфейсами и друг с другом.

Хотя стремительное развитие технологий искусственного интеллекта может показаться ошеломляющим, эта область все еще находится на ранних стадиях. Основные принципы проектирования пользовательского опыта остаются ценными — мы просто расширяем их, чтобы охватить искусственных пользователей наряду с человеческими. Это дает дизайнерам уникальную возможность определить, как ИИ-агенты взаимодействуют с системами и удовлетворяют потребности людей.

Будущее UX — за пониманием и проектированием взаимодействия агента и компьютера. Те, кто развивает опыт в этой области сейчас, помогут определить лучшие практики на годы вперед.

Статья переведена и адаптирована экспертами из команды «Лии» — платформы на базе ИИ для первой и второй линии поддержки.

Читайте больше актуальных новостей и статей об ИИ — в моем блоге. А если хотите применить ИИ в своём бизнесе — обращайтесь к команде Лии.