Ваш AI действительно работает — почему клиенты всё равно не заинтересованы

Многие продуктовые команды убеждены: если сделать AI «объяснимым», пользователи начнут доверять и активно пользоваться функцией. Однако объяснимость важна — но редко достаточна. История о генеративном SEO‑инструменте, который отлично «делал дело», но не приняли маркетологи, показывает, что корень проблемы не в объяснении модели, а в несовпадении ментальных моделей — в том, как пользователи мыслят о задаче и как продукт решает её.

Ключевая мысль

Объяснимость — это не просто свойство модели, это форма взаимодействия. То, что для разработчика выглядит понятным и корректным (показать логику подсказок, цепочки вывода, вероятности), для пользователя может быть бессмысленно, если выводы не укладываются в его рабочую практику, терминирование или критерии успеха. Проще говоря: одного знания «как это работает» недостаточно — нужно соответствовать тому, как пользователь думает и действует.

Почему так происходит: четыре измерения расхождения

Технологическая «зона комфорта» и риск задачи. Пользователи по-разному комфортны с технологией. Для одного «чат‑бот = мессенджер для личной жизни», для другого — рабочий инструмент. Если рабочий процесс профессионала (например, крановщика, инспектора) не предполагает «разговора с системой», просто добавление chat‑интерфейса вызовет отторжение.

Начинать нужно с задач, которые пользователи готовы «аутсорсить» — рутинных, раздражающих, небезопасных при человеческом исполнении.

Ментальная модель текущего способа решения задачи. Перед тем как проектировать AI‑workflow, спросите: как пользователь сейчас решает проблему? В примере SEO‑инструмента маркетологи искали «ключевые слова», а команда продукта показывала «варианты подсказок» — это был разный язык.

Если новый инструмент не ложится на существующую практику, его не примут — даже если он объективно лучше.

Ментальная модель самого AI у пользователя. Пользователи формируют представления: «волшебная коробка», «помощник‑учитель», «наставник», «инструмент». Непонимание границ функции — частая причина неправильного использования.

Нужно тестировать, какие метафоры и объяснения помогают пользователям корректно оценивать возможности агента, и строить интерфейс так, чтобы он подавал ожидаемый уровень надёжности и ответственности.

Ограничения человеческого внимания vs скорость AI. AI часто работает быстрее, чем человек способен осмыслить выводы. Высокая скорость генерации и частые изменения требований приводят к когнитивному переутомлению: пользователь теряет нить, забывает, зачем он делал изменения, и откатывает процесс.

Решение — синхронизировать темп работы системы с человеческими ритмами: контрольные точки, объяснения «что поменялось и почему», более медленные режимы для критичных операций.

Практические выводы — что делать, чтобы пользователи заинтересовались

Начинайте с привычной точки входа. Не заставляйте пользователя менять свою привычную работу. Если они думают в терминах «ключевых слов», покажите ключевые слова; если в терминах «заголовков», — покажите заголовки. Объясняйте результат через уже знакомые им концепты.

Найдите «заменяемые» задачи — внешние к зоне комфорта. Ищите рутинные, однообразные задачи, которые люди готовы отдать машине: предобработка данных, подготовка черновиков, агрегация источников. Эти «small wins» быстрее приведут к доверительному использованию.

Проектируйте объяснения как диалог, а не как монолог. Объяснимость должна быть интерактивной и адаптироваться под уровень знаний пользователя. Показывайте краткие резюме, а по клику раскрывайте техничную трассировку — так вы удовлетворите и новичков, и экспертов.

Подстраивайте скорость и гранularity под когнитивную нагрузку. Вставляйте checkpoints: «Что изменилось», «Почему это важно», «Как это сравнить с тем, что было». Дайте пользователю возможность тормозить цикл и сохранить контекст.

Валидируйте ментальные модели через наблюдение. Юзабилити‑исследования, сценарные тесты и «think aloud» (пользователь объясняет, что делает и почему) — лучшие способы узнать, как люди думают о задаче и где продукт идёт вразрез.

Формируйте переходы, а не требуйте прыжков. Стратегия «пересадить людей на новый способ работы немедленно» редко работает. Постепенные добавления функционала, гибридные режимы (человек управляет, AI предлагает) и опция «ручного контроля» снижают сопротивление.

Итог

Объяснимость — необходимое, но вторичное условие успеха AI‑функции. Первое — соответствие целям, привычкам и когнитивному ритму пользователя: общая ментальная модель.

Пока продукт не станет «говорить на языке» пользователя и не встраивается в его привычные рабочие шаблоны, даже идеальная модель и детализированная трассировка выводов не превратят функцию в востребованный продукт.