Мы наняли сотрудника. Полгода спустя выяснилось, что его работу делал ИИ-агент

Ноябрь. Мы — небольшое агентство, делаем автоматизацию бизнес-процессов на ИИ для других компаний. Ирония в том, что случилось дальше, дойдёт до вас позже.

Нужен был человек в поддержку — разбирать заявки клиентов, вести переписку, эскалировать сложные случаи. Удалённо, полностью в текстовом формате: почта, таск-трекер, телеграм-чаты с клиентами. Голосовых созвонов у нас с саппортом никогда не было — не было в этом необходимости, задачи простые, всё решается перепиской.

Взяли парня, назовём его Игорь. Резюме нормальное, на собеседовании (тоже текстовом, в зуме камеру просто не включали, списали на слабый интернет) отвечал внятно. Первые недели — красота. Отвечает быстро, вежливо, разбирается в продукте на удивление хорошо для новичка.

Через две недели я хвалил Игоря на созвоне с командой — привёл его как пример, как надо разбираться с заявками. Скорость ответа у него была лучше, чем у предыдущего саппорта, который проработал у нас полгода.

Потом начались мелочи. Ничего такого, на что стоило бы обращать внимание всерьёз.

Один раз перепутал название тарифа в письме клиенту — поправили, извинился. Другой раз ответил на вопрос про интеграцию с CRM почти дословно тем же текстом, что писал неделей раньше другому клиенту с совсем другим запросом — просто скопировал не глядя, решили мы. Третий раз продублировал письмо два раза подряд с разницей в минуту.

По отдельности — ничего страшного. Новичок, устаёт, невнимателен. У нас у всех такое бывает.

На втором месяце Игорь вёл переговоры с клиентом — компания хотела внедрить у себя цепочку автоматизации для отдела продаж. В переписке он подтвердил условия: расширенный объём работ входит в базовый пакет, отсрочка платежа на 60 дней вместо стандартных 14.

Ни того, ни другого мы никогда не согласовывали. Ни в одном внутреннем документе таких условий нет.

Клиент подписал договор на основе этой переписки. Мы взялись за проект, начали считать экономику — и оказалось, что при заявленном объёме работ и такой отсрочке платежа мы уходим в минус на контракте. Причём заметный минус.

Финансовый директор пришёл ко мне с вопросом: кто и когда согласовывал такие условия. Никто не согласовывал. Их просто не существовало — до тех пор, пока Игорь не написал их клиенту как данность.

Ситуацию нужно было разруливать быстро — деньги реальные, договор уже подписан. Мы созвонились с Игорем — впервые за полгода его работы у нас голосом, а не текстом.

Спросил прямо: откуда взялись эти условия, кто их одобрил.

Он путался. Начал что-то говорить про «обсуждали в переписке», потом сбился, замолчал. После паузы признался: последние несколько месяцев почти всю переписку он вёл через ИИ-агента — накидывал контекст, агент писал ответ, он в лучшем случае пробегал глазами и отправлял. Часто — даже не читал до конца.

Работал агент, по его словам, в целом неплохо. Чуть хуже, чем сделал бы он сам — где-то суше, где-то мимо тона, — но заметных проблем не было, поэтому проверять он постепенно перестал вообще. А в переписке с этим клиентом агент, судя по всему, сам додумал условия сделки — возможно, экстраполировал из похожих запросов других клиентов, возможно, просто сгенерировал правдоподобный ответ под вопрос. Правды мы уже не узнаем.

Игоря мы уволили в тот же день — не за то, что он использовал ИИ-агента, а за то, что подписывался под его словами, не проверяя, и в итоге за это заплатила компания.

Но интереснее другой вывод. Пока агент не наделал ошибку в конкретной сделке, мы полгода не могли отличить его переписку от переписки живого человека. Работу свою он тянул — не блестяще, но и не провально. Мы платили зарплату человеку, который по факту был передаточным звеном между нами и чат-ботом.

Мы сами продаём клиентам автоматизацию на ИИ. И тут поняли, что наняли ровно то, от чего должны были защищать своих же заказчиков.

Решение приняли простое: раз работу тянет агент — строим и используем своих. Без посредника, который берёт зарплату за то, что ставит задачи модели и не глядя пересылает результат.

Мой канал про это! Добро пожаловать.