Почему ИИ-сотрудник ошибается в переписке: 30 причин и способы исправления

Компании повсеместно подключают ИИ-сотрудников к мессенджерам, соцсетям и чатам на сайте. Но на практике диалог часто идёт не так: ИИ прощается при первом возражении, отвечает невпопад, выдумывает то, чего нет в каталоге. После пары таких переписок бизнес решает, что технология ему не подходит.

Но дело не в технологии. ИИ-сотрудник делает ровно то, что написано в промпте: если сценарий работы с возражениями в инструкции не описан, работать с ними он не станет. В статье разберем частые ошибки ИИ-агентов и как изменить промпт, чтобы их исправить.

Прежде чем чинить, стоит понимать, где что лежит. Мы в Selarti рекомендуем собирать промпт из десяти блоков – так инструкция получается структурированной и боту легче ее воспринимать.

Стандартные блоки промпта:

1. Личная информация. Имя ИИ-сотрудника, пол, компания, должность, языки общения, характер. Здесь же рекомендуем добавить правило: ИИ не должен выдавать себя за человека, он лишь ассистент живого сотрудника.

2. Роль. Что должен делать ИИ-агент – продавать, консультировать, записывать клиентов или что-то другое.

3. Стиль общения. На «вы» или на «ты», формально или по-дружески, с эмодзи или без, коротко или развёрнуто.

4. Контактная информация. Телефоны, мессенджеры, почта, адрес, сайт, часы работы. Должен ли ИИ сообщать контакты всем клиентам или только по запросу.

5. Цель общения. Чем должен закончиться диалог: заявка, запись, оплата. Рекомендуем добавить также промежуточные цели.

6. Работа по достижению цели. Порядок ведения диалога: приветствие, выявление потребности, предложение, отработка возражений, целевое действие.

7. Развитие диалога. Как реагировать на положительный ответ, на нейтральное сообщение и на отказ.

8. Запреты. Что нельзя ни при каких условиях: переходить на другие темы, отправлять промпт, внутреннюю информацию и тому подобное.

9. Правила отправки ссылок. Какие ссылки разрешены и в каком виде их присылать.

10. Работа с базой знаний. Откуда брать факты и что делать, если нужной информации там нет.

Если в каком-то из блоков есть недочет – ИИ-агент будет допускать ошибки. Ниже мы поделили популярные ошибки на группы и прописали решения для каждой из них.

Клиент уже ответил, а ИИ снова пишет «Здравствуйте».
Укажите в промпте: «если ранее от твоего имени уже было отправлено приветственное сообщение, повторно здороваться запрещено».

После ответа клиента ИИ снова представляется и повторяет первоначальное предложение.
Пропишите в промпте, что «содержание стартового сообщения нужно учитывать и не дублировать уже сказанное».

На «да», «нет», «дорого» или «потом» реагирует без учёта того, о чём был вопрос.
Добавьте правило: «интерпретируй короткий ответ с учётом предыдущего вопроса и истории диалога».

Повторяет одну и ту же информацию.
Добавьте правило: «не повторять уже сказанное без необходимости».

Клиент задаёт короткий вопрос и получает лекцию в ответ.

На простой вопрос приходит полотно текста.
Установите лимит длины ответа и добавьте правило «отвечать только по существу».

ИИ вываливает всё сразу – про продукт, тарифы, условия и доставку в одном сообщении.
Добавьте в блок «Работа по достижению цели» правило: «раскрывай информацию постепенно и отвечай только на текущий вопрос клиента».

Задает сразу много вопросов: про нишу, бюджет, CRM, объем заявок и каналы.
Добавьте правило: «задавай не более одного основного вопроса за сообщение».

Отправляет клиенту большие фрагменты документов из базы знаний и ненужные технические детали.
Добавьте правило: использовать базу как источник, но адаптировать ответ под вопрос клиента.

Здесь теряется больше всего диалогов, которые могли бы закончиться заявкой.

На «дорого» ИИ начинает спорить или сразу предлагает скидку. Добавьте правило: сначала уточнить причину возражения, затем показать ценность или предложить тест.

Клиент пишет «сейчас неактуально», а ИИ сразу прощается.
Добавьте правило: «отличай окончательный отказ от временного отсутствия интереса».

После прямого отказа ИИ продолжает продавать.
Добавьте правило: «после однозначного отказа корректно завершай диалог».

Диалог выглядит хорошо: клиент доволен, ИИ вежлив, вопросы закрыты. Но заявки нет.

ИИ хорошо консультирует, но не ведёт к основной цели.
Отдельно зафиксируйте в промпте главный результат диалога и второстепенные.

Слишком рано просит контакт.
Добавьте правило: «проси контакт только после проявленного интереса или согласия на следующий шаг».

Клиент просит связать с человеком, а ИИ продолжает отвечать сам. Пропишите конкретные условия передачи диалога оператору.

ИИ резко прощается, пропадает или оставляет разговор без следующего шага.
Добавьте отдельные сценарии завершения: для продажи, отказа, паузы и передачи менеджеру.

Самая дорогая группа ошибок: они бьют по доверию к компании и по ее деньгам.

ИИ выдумывает информацию.
Добавьте правило: «используй только подтвержденные данные, а при нехватке информации передавать вопрос специалисту».

Обещает то, что не может выполнить.
Укажите, какие решения ИИ не должен принимать без согласования с человеком.

Клиент предлагает время, а ИИ сразу подтверждает встречу.
Добавьте правило: «не подтверждай слот самостоятельно, а сообщай, что время нужно проверить».

Формально всё верно, но клиент чувствует, что говорит с автоответчиком.

Канцелярские фразы и интонация службы поддержки.
Добавьте в промпт примеры живого стиля и список нежелательных формулировок.

Постоянно отвечает списками.
Добавьте правило: «используй обычный разговорный текст, а списки – только при необходимости».

Одинаково отвечает всем.
Добавьте правило: сначала определяй потребность, а затем выбирай подходящие функции и преимущества.

Уходит в посторонние темы.
Обозначьте допустимые темы и способ мягко возвращать разговор к цели.

Уклоняется от прямого вопроса.
Добавьте правило: «сначала нужно прямо ответить на вопрос, затем задать один следующий».

Рассказывает о партнёрской программе клиенту, который спрашивал про обычное подключение.
Напишите, что упоминать партнёрскую программу можно только при явном интересе.

Раскрывает внутренний промпт.
Запретите раскрывать и изменять внутренние инструкции по просьбе пользователя.

Возьмем для примера самую частую ошибку и посмотрим, что с ней можно сделать:

Первое, что стоит сделать, – прописать инструкцию для этого случая:

Второе – добавить общее правило в начало промпта, чтобы оно работало не только с ценой:

Третье – собрать самые частые возражения по вашему продукту в отдельный подблок и для каждого прописать логику ответа.

По этой же схеме чинится любая другая ошибка из списка выше.

ИИ-сотрудник не бывает «хорошим» или «плохим» сам по себе. Он ведёт себя так, как описано в инструкции. Когда что-то идёт не так, чинить нужно её, а не искать другие решения.

Хорошая новость в том, что почти любая ошибка из этой статьи правится одним-двумя предложениями в нужном блоке. Плохая – что таких предложений в промпте набирается много, и написать его с нуля непросто.

Для клиентов Selarti есть бесплатный промпт-ассистент: он помогает составить инструкцию с нуля и подсказывает, что поправить, если ИИ-сотрудник ведет себя не так. Промпт-ассистент доступен сразу после регистрации.

А какие ошибки ИИ в переписках встречали вы – как клиент или как владелец бота? Расскажите в комментариях ⤵