Тупик автоматизированной эмпатии. Почему ИИ-бот никогда не станет психологом

Посмотрите на отчеты множества стартапов в сфере ментального здоровья, и вы увидите коллекцию историй успеха. И здесь, на vc.ru, я видел много бравурных отзывов об эффективных ИИ-психологах. Показатели вовлечения растут, пользователи проводят долгие часы в диалоге с ботом, регулярно возвращаются, оставляют кучу положительных отзывов. С точки зрения метрик продукта и роста бизнеса все выглядит идеально. Кажется, что технология наконец-то дошла до решения одной из самых важных проблем общества – нехватки доступной психологической поддержки.

Более того, языковые модели уже научились так подбирать слова, что их ответы не отличить от человеческих. Да что там, они иногда даже звучат лучше, уместнее, профессиональнее и точнее.

Вот только все эти метрики и показатели не о том.

Почти все, в чем измеряют успех таких продуктов, описывает не поддержку, а удержание внимания. Время в приложении, количество сообщений, возвраты, глубина сессий – суть показатели того, насколько хорошо система втягивает человека в диалог. Они ничего не говорят о том, происходит ли с что-то человеком за пределами интерфейса. Меняется ли его жизнь, его отношения, его способность справляться самостоятельно?

Если бы мы так же оценивали работу живого психолога, лучшим специалистом был бы тот, к кому клиент ходит десятилетиями. В реальной жизни абсурд такой оценки очевиден. В сфере технологической эмоциональной поддержки его почему-то воспринимают как норму.

Ошибка здесь, по-моему, заключается в самой цели, которую мы ставим перед ИИ-ботами.

Но правда в том, что настоящая поддержка и терапия никогда не сводились к обмену корректными репликами.

В бытовом представлении психологическая помощь часто выглядит как довольно нехитрое дело. Есть человек с проблемой, и есть специалист, который говорит что-то точное и уместное, и от этих слов клиенту становится легче. Если принять эту простую схему, идея автоматизации кажется очевидной. Натренировать модель, влив в нее учебники по консультированию, добавить немного эмпатичного тона, и готово.

Проблема в том, что это описание не имеет почти ничего общего с тем, как работает реальная помощь.

Есть формат поддержки, который действительно можно превратить в сервис. Это предсказуемое, вполне безопасное взаимодействие, направленное на снятие острого состояния здесь и сейчас, типа приступа тревоги, внезапно нахлынувшего одиночества, необходимости стабилизироваться в стрессовой ситуации и т.п. В этом режиме ИИ может быть полезным инструментом. Он всегда доступен, не устает, умеет напоминать про дыхание и базовые техники.

Но есть и другой уровень, который собственно делает психологическую поддержку и терапию тем, чем они являются.

На этом уровне поддержка как встреча двух людей не может быть ни транзакцией, ни услугой.

И цель состоит не в том, чтобы клиенту стало спокойнее, а в том, чтобы стало по-настоящему иначе. А для этого нужны не идеальные формулировки, а готовность обоих участников меняться в пути.

Когда мы пытаемся автоматизировать этот процесс, мы неизбежно создаем его симуляцию.

Мы легко отличаем реальную любовь от ее суррогатов, мы понимаем, что любовь – это не обмен корректными репликами, а то, что происходит между словами. Это молчание, которое не становится неловким, это риск сказать что-то не то и получить в ответ не привычное «я понимаю», а искреннее, возможно, даже обидное, но живое «нет, ты не прав». Это совместное проживание неопределенности, когда вы вдвоем прокладываете путь в неизведанное, и никто из вас заранее не знает, куда он ведет. Любовь развивается не от избегания конфликтов, а от их проживания, не от гарантированного принятия, а от выбора, который ваш партнер, будучи свободным, делает в вашу пользу снова и снова.

А теперь представьте партнера, который не только исключительно «по переписке», но и всегда и во всем с вами согласен, всегда говорит то, что вы хотите услышать, никогда не устает и не имеет собственного мнения. Это не идеальные отношения, а постапокалиптический кошмар. Он лишен самой сути человеческих отношений. Настоящая близость рождается не в уверенности, а в риске – в потенциальной опасности быть непонятым, в необходимости договариваться, в столкновении с инаковостью другого. Именно этот вызов заставляет нас расти, меняться, становиться более гибкими и сложными.

ИИ-бот – это идеальный, и потому совершенно бесполезный партнер, который всегда на вашей стороне, который никогда не скажет, что устал или что вы не правы. Его принятие безусловно, потому что оно алгоритмическое, а не личное. И в этом его фундаментальный изъян, ведь там, где нет напряжения, непонимания, необходимости пробиваться к другому, любое общение превращается в пустышку, суррогат.

Психологическая поддержка и терапия устроены очень похоже на любовь. Да, там как и в любви есть слова. Но сам механизм, что-то меняющий в клиенте психолога, запускается не словами. Он запускается в пространстве отношений, которое возникает между двумя людьми. В доверии, которое рождается не потому, что специалист всегда прав, а потому что он честен. В его способности выдерживать вашу боль. В тех моментах, когда он, будучи живым человеком, может сказать: «Знаете, то, что вы сейчас говорите, вызывает во мне грусть». Это не просто правильные слова, не просто техника из пособия, это реальный отклик одного субъекта другому, изменяющий их обоих.

ИИ может прекрасно симулировать обмен фразами, он может дать идеальный с точки зрения учебника ответ на рассказ клиента, но он не может создать это самое пространство «между».

1. Взаимная уязвимость и риск.

В живом помогающем контакте всегда рискуют оба. Не только тот, кто пришел за поддержкой, но и тот, кто ее оказывает. Он может ошибиться, не попасть «в такт», не выдержать напряжения, быть неправильно понятым. Он рискует своей репутацией, своим временем, своей внутренней устойчивостью. Его внутренние реакции – ценный материал для работы (в некоторых направлениях консультирования и терапии – самый ценный). ИИ же не рискует ничем. Его «эмпатия» – это холодный расчет наиболее вероятной уместной фразы. Без этого риска нет настоящего доверия, а без доверия все правильные слова ничего не значат.

2. Наличие у помогающего собственной жизни и границ.

Настоящий терапевт устает. У него бывают трудные дни. Его эмоциональный ресурс конечен. Его внимание – это не безлимитная услуга, оно ограничено временем сессии и его энергетическим потенциалом. Эта ограниченность – не баг, а важнейшая особенность, которая учит нас уважать границы другого, ценить уделенное время, понимать, что наши проблемы – не центр вселенной. ИИ с его бесконечным терпением и круглосуточной доступностью лишает человека этого критически важного ощущения.

3. Совместное, непредсказуемое становление.

В терапии меняются оба, и клиент, и терапевт. Это путешествие без детальной карты, где маршрут прокладывается в самом движении. ИИ не может «становиться» в человеческом смысле. Он не обогащается опытом конкретного диалога как личной историей, не пересматривает свои ценности и установки, не переосмысливает себя, не несет в себе эмоциональных отголосков прошлых сессий. Он лишь обновляет статистическую модель. Настоящая трансформация рождается в диалоге двух становящихся субъектов, в формировании диадного «мы», но точно не в коммуникации субъекта с со статичным инструментом.

Современные системы психологической поддержки и терапии проектируются с четкой целью максимизировать пользовательскую вовлеченность и минимизировать любые риски – юридические, репутационные, эмоциональные.

На практике это приводит к созданию системы–пузыря.

Ее архитектура – языковая модель, обернутая слоями фильтров, классификаторов опасных состояний и жестких сценариев эскалации, качественно справляется с одной задачей – гасить острые эмоции и возвращать пользователя в спокойное, управляемое состояние. Она может предлагать стандартизированные техники дыхания, шаблонные вопросы для рефлексии, безоценочное принятие.

И именно поэтому такие системы плохо справляются с тем, что не должно быть быстро успокоенным – тяжелым горем, яростью, пустотой, длительной апатией, экзистенциальным отчаянием. ИИ-бот оказывается не только бесполезным, но даже потенциально опасным там, где нужно не сглаживать, а выдерживать.

Ну и вишенкой на торте наблюдение – самые успешные с точки зрения бизнеса продукты часто оказываются теми, которые лучше всего создают иллюзию изменений, одновременно усиливая зависимость от интерфейса. Пользователь возвращается снова и снова не потому, что стал автономнее и самостоятельнее, а потому, что научился получать облегчение только во взаимодействии с системой.

Выход здесь не в том, чтобы делать ботов еще более человечными или научить их говорить еще правильнее. Выход в том, чтобы отказаться от идеи ИИ как автономного помощника и увидеть в нем инструмент принципиально другого типа.

На практике это означает несколько конкретных архитектурных сдвигов:

Текущий путь развития ИИ в психологической поддержке и терапии – это по сути путь постоянного улучшения симуляции. Он технологически впечатляющ, но человечески примитивен и этически сомнителен, потому что эксплуатирует потребность в доверительном контакте, не предлагая самого контакта.

Иной путь выглядит скромнее. Он не обещает заменить человека, предполагая, что ИИ – это навигатор, а не пункт назначения. Он помогает подготовиться к сложному разговору, осмыслить болезненный опыт, сформулировать важные вопросы самому себе. Но ключевой акт поддержки и помощи, то есть встреча с другим живым, уязвимым, рискующим существом, способным к совместному становлению, может остаться только за самим человеком.

Уверен, что главный вызов для инженеров и дизайнеров сегодня не в том, чтобы заменить психолога алгоритмом, а в том, чтобы спроектировать технологии, которые помогут преодолеть изоляцию и страх, привести к настоящей человеческой встрече. Значит, надо создавать не замкнутые диалоговые петли, а открытые системы, которые направляют человека в его собственную жизнь и к другим людям.