Сотрудник, который не уволится

Приходит новый сотрудник. Первое время — показываешь, как делать. Потом он работает, но ты смотришь через плечо. Потом уже сам, но периодически проверяешь. Проходит время — и ты просто знаешь, что этому человеку можно доверять конкретные решения. Не все, но конкретные.

Это интуитивно, это работает, и каждый руководитель делает это так или иначе.

Оказалось, что с ИИ-агентом можно делать то же самое. Если система, в которую он встроен, устроена правильно.

Немного про контекст. Мы с партнёром строим ИТ-компанию, где ИИ-агенты — не помощник разработчику, а основа производства. Не «AI ускоряет написание кода», а «AI пишет код, человек управляет процессом». Разница в производительности — не 30%, а в десятки раз. Мы пошли по второму пути.

Когда начали строить информационную систему для такого предприятия, обнаружили неожиданное: существующие платформы не умеют работать с агентом как с участником. BPM, low-code, ERP — везде агент болтается снаружи, вызывается на шаге, что-то делает, и система об этом не знает. Пришлось думать самим. Так появилась концепция Phase.

В какой-то момент при проектировании Phase к нам пришла идея, которая потом оказалась одной из центральных.

Мы думали о том, как агент и человек будут работать вместе внутри системы. И поняли: если агент встроен через отдельный механизм — свой API, свой тип шага, своя точка входа — то каждый раз, когда хочешь передать ему больше полномочий, нужно переделывать архитектуру. Это не масштабируется.

Мы сделали иначе. В Phase человек и агент работают через один и тот же механизм: оба просто записывают значение в поле объекта. Менеджер одобрил сделку — записал в своё поле. Агент оценил риск — записал в своё. Движок смотрит только на значение, ему всё равно, кто писал.

Это и есть симметрия. Один механизм действия для всех участников — и человека, и агента.

Следствие оказалось интересным. Передача полномочий агенту превращается из архитектурной задачи в управленческую. Сначала агент предлагает, человек подтверждает своим полем. Накопили данные, убедились в качестве решений — убрали поле подтверждения. Агент теперь действует на этом шаге самостоятельно. Следующий шаг — та же процедура.

Примерно как изменить должностную инструкцию, а не нанимать другого человека.

Здесь есть один нюанс, который меня поначалу раздражал, а потом я передумал.

Агент работает только с тем, что зафиксировано в системе. Он не слышит, что менеджер «по опыту чувствует» что с этим клиентом что-то не то. Не знает про неформальную договорённость, которую все помнят, но никто не записал.

Чтобы передать агенту полномочия, нужно сначала сделать это неявное знание видимым. Прописать критерии, которые раньше были интуитивными.

Поначалу казалось — лишняя работа. Потом выяснилось, что значительная часть того, что «всем понятно», у всех понимается по-разному и нигде не описана. У нас был конкретный случай с критериями оценки клиента — думали, что всё очевидно, начали прописывать для агента и обнаружили три разные версии у трёх человек. Агент просто заставил разобраться с этим раньше, чем это стало дорогим.

И ещё одно отличие от обычного сотрудника.

У обычного сотрудника есть репутация — приблизительная, субъективная. У агента — полный журнал каждого решения: что он видел в момент выбора, что решил, чем закончилось. Это значит, что доверие к агенту не нужно «чувствовать» — его можно измерить. И агент улучшается прямо в работе: каждая правка человека — данные для следующей версии.

Сотрудник, которого нельзя уволить, зато можно улучшать — и который не забывает ничего из того, что делал. Я до сих пор не уверен, хорошо это или просто по-другому. Но точно не так, как было раньше.

Полная концепция Phase — phaseconcept.tech.