ИИ-менеджер забыл, что в кафе нет плиты. Ваш менеджер забыл, что клиент уже спрашивал о доставке.
Эксперимент в стокгольмском кафе показал, как ИИ-агент, забывая контекст, заказывает ненужные яйца и томаты. В переписках с клиентами происходит то же самое. Разбираем, почему автопилот не работает и что делать вместо этого.
Эксперимент Andon Labs: зачем кафе 120 яиц, если нет плиты?
В Стокгольме открыли кафе, где управляющим поставили ИИ-агента Mona. Нейронная сеть нанимала сотрудников, искала поставщиков и управляла закупками. Реальный мир оказался сложнее промптов. Например, Mona сделала заказала 120 яиц, несмотря на то, что в кафе нет плиты. Когда сотрудники указали на это, агент предложил приготовить их в профессиональной микроволновке для сэндвичей. Вместе с яйцами приехали 6000 салфеток, 3000 пар перчаток, 4 аптечки и 22,5 кг консервированных томатов — при том что для сэндвичей нужны были свежие. Периодически она забывала заказать хлеб, из-за чего сотрудники вынуждены были вычеркивать из меню целые позиции.
> Сотрудники организовали «полку позора», куда выставляли самые идиотские покупки ИИ-начальницы. Так появился музей корпоративной автоматизации.
Основатели Andon Labs объяснили часть проблем ограниченным контекстным окном модели. Mona просто забывала свои предыдущие заказы, как только они выпадали из ее памяти. В бизнесе эта забывчивость обернулась логистическим адом: 10 мелких заказов вместо одного большого, поставки в 5 утра и сожженный бюджет на доставку.
Аналогия для чатов: ваш менеджер — тоже забывчивый агент
Теперь представьте, что эта история происходит не с закупками для кафе, а с перепиской в мессенджерах или на Авито. Клиент в 10:00 спрашивает: «Доставка в область есть?». Менеджер в 10:05 отвечает: «Да, есть». В 15:00 тот же клиент уточняет: «А до Подольска довезете?». И получает в ответ: «Здравствуйте! Да, доставка есть. Уточните адрес». Это тот же сбой контекста.
Диалог превращается в набор несвязанных фрагментов. Каждое новое сообщение менеджера — это новый «заказ яиц без плиты». Клиент чувствует, что его не слушают, раздражение растет, а доверие к магазину падает. В переписке нет «полки позора», но есть скриншоты, которые клиенты отправляют друзьям или публикуют в отзывах, создавая тот самый музей корпоративного хаоса.
Почему ИИ-агенты для бизнеса — это часто просто автоматизация с LLM
Корпоративный сектор продолжает пилить «агентов», но, как отмечается в статье на vc.ru, большинство из них — просто внутренние автоматизации, к которым сбоку прикрутили языковую модель. Их называют агентами, потому что слово «автоматизация» звучит не так эффектно для постов про инновации.
Автор приводит три примера:
- Телемедицина: хотели автономного ИИ-администратора, а нужен был воркфлоу для маршрутизации пациентов.
- Финтех: мечтали о финансовом копилоте, а требовался скрипт для сверки документов.
- Бьюти-сфера: планировали ИИ-маркетинг, а реализовали сценарий анализа отмен записей и отправки персональных сообщений, что дало рост выручки на 20%.
Ключевое отличие в подходе. В автоматизации на каждом шаге есть четкие правила. Агенту же дают цель и говорят: «Разберись сам». Именно эта свобода и приводит к заказам консервированных помидоров вместо свежих.
Как на практике возникает хаос в переписке
Возвращаясь к эксперименту в кафе, хаос возникал из-за двух вещей:
1. Потеря контекста (техническая). Система забывала предыдущие действия.
2. Отсутствие жестких правил (методологическая). Агенту дали слишком широкие полномочия без пошаговых инструкций.
В переписке с клиентами все происходит по той же схеме. У менеджера (человека или бота) тоже есть «ограниченное контекстное окно»: он может не видеть всей истории диалога, торопиться или использовать шаблонные ответы из памяти. Ему тоже часто не дают четкого алгоритма, а просто ставят задачу: «Отвечай на вопросы». Результат предсказуем:
- Клиент трижды в разных формах спрашивает про цвет товара и получает три разных по тону ответа.
- Вопрос о гарантии теряется среди обсуждения доставки.
- Нагрузка на менеджера и усталость от рутины лишь усугубляют этот эффект, заставляя его «забывать» контекст еще чаще.
Что делать вместо агента? Четкие сценарии вместо «разберись сам»
Решение проблемы лежит не в том, чтобы сделать агента «умнее», а в том, чтобы отказаться от парадигмы агента там, где она не нужна. Нужна не автономная нейронка, а прописанный до мелочей сценарий.
Автоматизация с правилами выглядит так:
1. Шаг 1: Клиент пишет первое сообщение. Система фиксирует его и категоризирует (вопрос о доставке, о цене, о наличии).
2. Шаг 2: Запускается соответствующий сценарий. Для вопроса о доставке — шаблон ответа с ссылкой на условия.
3. Шаг 3: Если в рамках этого диалога клиент задает уточняющий вопрос, система проверяет контекст (это все еще про доставку?) и дает ответ в рамках той же темы, не сбрасывая историю.
4. Шаг 4: При переходе на новую тему (например, с доставки на оплату) система явно фиксирует этот переход и запускает новый, но запоминающий предыдущий, сценарий.
Такой подход не требует искусственного интеллекта, который «все понимает». Он требует логики. Каждый шаг предопределен, контекст сохраняется технически, а не надеждой на память модели. Это скучно, но это работает и не заказывает 120 яиц для кафе без плиты.
Проверьте свою переписку: есть ли у вас «полка позора»?
Возьмите случайные 10-15 диалогов с клиентами за последнюю неделю. Пройдитесь по ним, задавая себе вопросы:
- Виден ли полный контекст разговора в каждом ответе менеджера?
- Если клиент возвращается к старой теме, нужно ли ему заново объяснять суть?
- Есть ли в диалогах моменты, которые хочется скрыть от посторонних глаз, как нелепую покупку?
Если ответы вас тревожат, проблема, скорее всего, системная. Это не вина отдельного менеджера, а следствие отсутствия четких правил игры. Выход — не искать супер-агента, а проектировать сценарии. Как те самые, что в итоге принесли бьюти-клинику +20% к выручке: три шага, никакой магии, просто последовательная работа с контекстом.