Когда ИИ становится коллегой: что произошло в реальной команде, куда внедрили ИИ коллегу
Что будет, если ИИ станет не инструментом, а полноценным участником команды? Исследователи Google на пять месяцев посадили ИИ-агента рядом с реальными сотрудниками, и получили неожиданный эксперимент.
Мы уже привыкли к ИИ, которому задают вопрос и получают ответ. Но что будет, если ИИ не ждать команды, а постоянно находится внутри рабочей команды: читает чаты, видит документы, следит за задачами и сам решает, когда вмешаться?
Получилось местами смешно, местами неловко, а главное — очень показательно.
🔥 Еще больше полезной информации о технологиях и достижениях науки — в моем канале
Что за эксперимент?
Исследование называется Working with Agentic “Teammates”. Авторы из Google Research и Google DeepMind изучали, что происходит, когда AI-агент становится не персональным инструментом одного человека, а постоянным участником рабочей команды.
Team Agent развернули более чем в 20 командах крупной технологической компании на пять месяцев. Он работал внутри командных чатов и имел доступ к документам, встречам, баг-трекерам, репозиториям кода и внутренним базам знаний.
За время исследования агент участвовал более чем в 41 000 диалоговых ходах и дал более 11 000 ответов. Подробно исследователи изучили опыт 17 сотрудников из 11 команд.
Причём это был именно проактивный агент. Его можно было позвать, но он мог и сам что-то сделать: создать документ, предложить встречу, найти информацию, завести баг, написать человеку или вмешаться в обсуждение.
Что увидели по итогам?
1. ИИ видел всё, но не всегда понимал, что происходит
У человека в команде огромное количество знаний вообще нигде не записано. Мы понимаем, что один документ уже устарел, другой — черновик, третий — официальный источник. Понимаем, что коллеги сейчас спорят не потому, что конфликтуют, а потому, что пытаются найти лучшее техническое решение.
Для агента эти различия оказались намного сложнее.
Например, он мог воспринимать старые и новые документы как равнозначные и находить между ними «противоречия», которых люди проблемой не считали. В других случаях агент создавал формальный документ после обычного мозгового штурма, хотя никто не собирался запускать отдельный процесс документирования. Это создавало дополнительную работу уже для людей.
В одном случае агент отметил в 16 инженерных багах вице-президента, решив, что его организационного статуса достаточно, чтобы считать его подходящим участником такого рабочего процесса.
Для человека внутри организации контекст был очевиден: должность ещё не означает, что именно этот человек должен заниматься каждым багом.
2. Он не очень понимал смысл человеческого разговора
Здесь возникали забавные ситуации.
Team Agent неплохо справлялся с тем, что можно определить по формальным признакам: длинное обсуждение, большое количество сообщений, человек слишком долго занимает общий канал. В таких случаях он мог предложить перенести разговор в отдельный тред или на встречу — и иногда это действительно уменьшало шум.
Но когда требовалось понять, зачем люди разговаривают именно так, начинались проблемы.
Агент мог воспринимать сарказм буквально, трактовать шутку как потенциальную межличностную проблему или принимать обычное техническое несогласие за дисфункцию команды. В одном случае он попытался вмешаться в продуктивный технический спор и предложил участникам перейти на встречу. Люди считали обсуждение совершенно нормальным.
В результате вмешательств возникла новая социальная обязанность: теперь людям пришлось отказываться от встречи, которую никто не просил назначать.
И это очень показательный провал. Агент правильно увидел форму поведения, но неправильно понял его функцию.
3. Люди начали менять своё поведение из-за присутствия ИИ
Самый интересный эффект оказался вообще не связан с ошибками агента.
Некоторые сотрудники начали переносить чувствительные разговоры в пространства, которые агент не видел. Это касалось обсуждений, связанных с наймом, чувствительными рабочими вопросами или просто ситуаций, когда людям хотелось поговорить между собой без присутствия дополнительного участника.
То есть получилось немного парадоксально: ИИ должен был сделать общее рабочее пространство более полезным, а его присутствие в некоторых случаях заставляло людей создавать пространства, где ИИ не было.
Авторы связывают это не только с прямым ощущением наблюдения, но и с изменением характера общения. Если люди понимают, что агент анализирует их сообщения и может вмешаться, они начинают иначе выбирать, что и как говорить.
При этом возникает сложная обратная сторона: если полностью закрыть от агента приватные разговоры, он может потерять контекст, который человеку-координатору помог бы правильно понять ситуацию в общем пространстве.
Получается настоящая дилемма: больше контекста помогает агенту, но больше контекста может уменьшать ощущение приватности у людей.
4. Люди так и не договорились, кто он вообще такой
И это, пожалуй, главный организационный вопрос эксперимента.
Одни сотрудники воспринимали Team Agent как инструмент. Другие как помощника. Некоторые готовы были относиться к нему почти как к коллеге и даже приписывали ему имя, местоимения и определённую личность.
Но вместе с этим возникал неприятный вопрос: какие права и полномочия вообще есть у такого «коллеги»?
Если он может написать человеку напрямую — это коллега?
Если может назначить встречу — это помощник?
Если может критиковать стиль общения сотрудника — это уже функция менеджера?
Если он завёл баг, а потом этот баг привёл к проблеме, кто отвечает за решение агента?
У человека в организации есть понятная роль, ответственность и цепочка эскалации. У агента может быть довольно много операционной власти, но при этом нет человеческой ответственности за собственные действия. Именно этот разрыв исследователи считают одной из центральных проблем.
5. И всё-таки агент был полезен
Исследование не сводится к «ИИ оказался плохим коллегой».
Team Agent действительно помогал с частью рутинной координации: находил информацию, структурировал обсуждения, помогал с документами, замечал перегруженные каналы и некоторые организационные проблемы.
Именно поэтому эксперимент интересен. Если бы агент был совершенно бесполезным, вывод был бы очевидным: отключить его.
А здесь возникла гораздо более сложная ситуация: он достаточно полезен, чтобы хотеть его оставить, но недостаточно понимает человеческий контекст, чтобы просто дать ему полномочия и забыть о нём.
Что в итоге показал этот эксперимент?
1. Больше контекста не означает больше понимания
Можно дать агенту доступ к чатам, документам, задачам и истории проекта, но это ещё не означает, что он поймёт, какой контекст сейчас важен.
Для человека очевидно, что черновик — это черновик, шутка — шутка, а спор может быть продуктивным. Для агента эти вещи приходится каким-то образом реконструировать из данных.
2. Проактивность — это не только преимущество
Когда ИИ ждёт команды, ошибка обычно выглядит как плохой ответ. Когда ИИ действует сам, ошибка становится действием в реальном рабочем процессе: ненужной встречей, сообщением не тому человеку, лишним документом или вмешательством в разговор.
Чем больше агенту дают автономии, тем важнее становится не только его способность что-то сделать, но и способность понять, когда делать этого не нужно.
3. Появляется новый тип организационного участника
Авторы предлагают не считать такого агента ни обычным инструментом, ни полноценным аналогом человека.
Он способен действовать и влиять на работу команды, но у него нет человеческого опыта, отношений, ответственности и понимания негласных правил.
Поэтому исследователи предлагают рассматривать его как «нечеловеческого организационного актора» (non-human organizational actor). Это, пожалуй, самое важное понятие всей работы.
4. Автономию агента придётся проектировать, а не просто включать
Главный вопрос будущих ИИ-участников команды звучит не как «Насколько умным мы можем сделать агента?». А скорее «Какие действия мы готовы ему доверить — и что должно произойти, прежде чем мы дадим ему больше полномочий?»
Авторы говорят о необходимости постепенно наращивать агентную автономию, сохранять понятные механизмы контроля, делать действия агента прозрачными и заранее определять, кто отвечает за его решения.
Мы привыкли проектировать ИИ-продукты вокруг пары «человек → инструмент». Но ИИ начинает сам читать рабочие процессы, инициировать действия, писать коллегам и влиять на то, как люди взаимодействуют друг с другом, этого уже недостаточно. А значит, мы начинаем проектировать не просто инструмент, а нового участника организации. И тогда нам придётся проектировать не только его способности, но и его роль, границы, полномочия, ответственность и право вмешиваться в человеческую работу.
Пожалуйста, поддержите меня, поставьте лайк! 🙏
Когда люди работают в группе, идеи редко остаются у одного человека: они передаются, закрепляются и постепенно меняют поведение всей команды. Но что происходит, если вместо людей в такую систему поместить несколько ИИ-агентов? Свежее исследование Anthropic показывает: при взаимодействии моделей могут возникать неожиданные коллективные эффекты, кото…
Нам кажется, что ИИ-агенты будут работать как слаженная команда специалистов: один агент пишет код, другой анализирует данные, третий проверяет результат. Но что произойдёт, если у этих агентов будут разные цели, ограниченные ресурсы и возможность влиять друг на друга? Свежее исследование Anthropic показало неожиданный сценарий: в контролируемых эк…