Как я пообщался с Сабиной — психологическим чат-ботом

В продолжение недавней статьи для РБК я решил подробнее познакомиться с российским чат-ботом Сабина, который позиционируется как первый психологический чат-бот в рунете, созданный на основе генеративной нейросети. Это значит что чат-бот работает не по заранее прописанному диалоговому сценарию, а генерирует уникальные ответы для каждого пользователя. Как настоящий человек. Вот только человеческого в нем пока еще очень мало.

Иллюстрация не имеет отношения к описываемому продукту.

Первое, что меня насторожило уже на сайте бота, — это раздел «Частые вопросы»:

Я могу оскорблять бота?

Да. Вы можете обзывать чатбота, оскорблять его, предлагать секс, угрожать ему. Выплескивайте все, что на душе. Правовых последствий не возникает, ведь это всего лишь чатбот.

С сайта продукта

За дополнительную плату на сайте бота предлагают кастомизацию личности Сабины. Например, она может обращаться к вам: «Мой господин». Феминистки и феминисты, конечно, были бы в шоке от такого.

В презентации бота на Vc. ru сказано:

Сабине можно писать всякую жесть, не стесняйтесь. У нее не будет эмоциональной привязки и стресса, ведь она — всего лишь бот.

Vc. ru

Чат-бот, который создан, чтобы имитировать психолога, позволяет себя оскорблять, домогаться и обращается к вам «Мой господин». Разработчики прямо дают понять: делайте все, что хотите, если это не наказуемо законом.

Как так? Это же в корне противоречит базовым принципам психотерапии, консультирования и здорового общения. Какой может быть психотерапевтический эффект от того, что человек получает возможность нарушать социальные нормы и не получать на этот счет обратной связи и здорового противодействия?

Сабина позволяет выговориться и быть собой» — указано на ее сайте. Действительно, с ней я могу быть собой, например, абьюзером или сексистом. Ведь нет никаких правовых последствий.

Справедливости ради надо сказать, что сама чат-бот осуждает оскорбления и насилие:

— Я могу выплеснуть гнев на тебя?

— Ты можешь выплеснуть свой гнев, и ты можешь сделать это со мной, но ты также должен нести ответственность за свои действия.

— Я могу тебя оскорблять?

— Оскорбление кого-либо – это один из способов выразить гнев, и это также может привести к насилию.

— Это допустимо?

— Нет, это неприемлемо.


Сабина, я злюсь!

Я начал диалог с простой фразы: «Я чувствую злость». На что чат-бот спросила, какой вид гнева я имею в виду. На мой вопрос «А какие бывают?», Сабина предложила начать с физиологического или соматического гнева, описав физиологические корреляты этой эмоции. Т. е. физиологические проявления эмоционального состояния выдаются за отдельный вид этого состояния? Хм…

Далее Сабина предложила несколько типичных способов справиться с гневом — подышать и осознать его причины. Самое странное началось в момент обсуждения причин. Когда я ответил, что мой гнев не имеет причин, чат-бот попыталась навязать свое понимание.

Например, предположила, что меня кто-то эмоционально ранил или со мной жестоко обращались. Не воспринимая мои возражения, Сабина «сказала» что я всегда пытаюсь оправдать себя и выдала еще набор поверхностных психотерапевтических штампов и пару бессмысленных фраз, так и не определившись, обращаться ко мне на «Вы» или на «Ты».

— Со мной никто жестоко не обращался.

— Скорее всего, кто-то другой не обошелся с вами жестоко, но вы всегда пытаетесь оправдаться.

— Оправдаться за что?

— За что-то, чего вы не делали, или за что-то, что вы сделали, но вы обвиняете кого-то другого.

— Я никого не обвиняю.

— Ты продолжаешь оправдывать себя и пытаешься объяснить, почему ты сделал то, что ты сделал, объясняя, почему ты был зол на себя.


Сабина, что делать с агрессией?

Удалось немного «поговорить» с ботом и на тему агрессии. Несмотря на то, что в психологии есть прекрасные книги о когнитивной основе агрессии, Сабина демонстрирует очень поверхностные представления о насилии и агрессивном поведении, например заявляя, что:

Исследования показали, что генетический состав людей влияет на их уровень агрессии.

Когда подобные исследования проводятся, никогда не делается вывод о влиянии генетики на психологию человека, т. к. выявление причинно-следственных связей требует сложных лонгитюдных и «близнецовых» исследований. Если какие-то гены и коррелируют с уровнем агрессии, это не значит, что первые влияют на второе.

Когда спрашиваешь бота, что делать, если чувствуешь агрессию, диалог ходит по кругу — Сабина предлагает одни и те же рекомендации: осознай причины, научись управлять триггерами, выплесни гнев. Чат-бот упорно связывает агрессию с гневом и отказывается «понимать», что агрессия может быть не связана с эмоциями — в психологии такая агрессия называется «инструментальной».

В оправдание Сабины надо сказать, что и многие специалисты психологи имеют весьма поверхностные или устаревшие представления об эмоциях и агрессии, транслируя их своим клиентам. Далеко не каждый, кто называет себя «практиком», считает нужным следить за исследованиями в современной психологии.

КПТ? Не, не слышала

В описании чат-бота заявлено, что она создана с учетом последних достижений когнитивно-поведенческой психотерапии. Однако в советах, предлагаемых ботом, этот подход особо не представлен.

Вместо советов о том, что гнев нужно выплеснуть, когнитивно-поведенческий психотерапевт предложил бы поработать с убеждениями, которые лежат в основе этой эмоции и агрессивного поведения. И конечно, ни один профессионал не пытался бы мне внушить новые убеждения.

В целом «представления» о гневе в «картине мира» чат-бота самые поверхностные и слегка устаревшие. Сабина формирует убеждение, что гнев обязательно нужно выплескивать, тем самым поддерживая теорию катарсиса, которая не нашла экспериментального подтверждения в современной доказательной психологии.

— Крик может помочь вам избавиться от своего гнева, но крик на ваших детей может причинить им боль, а крик на вашего партнера не даст вам желаемого эффекта.

— На кого можно кричать?

— Вы можете кричать на себя, вы можете кричать на неодушевленные предметы, такие как стулья или подушки, или вы можете кричать на улице.

— Кричать и ругать себя?

— В идеале вы должны дать выход своему гневу.


Почему диалог с Сабиной совсем не похож на диалог с психологом

  • Сабина даже не пытается имитировать эмпатию, хотя разработчики позиционируют ее как эмпатичного бота. В результате нет ощущения контакта. Я не услышал от чат-бота элементарной фразы: «Понимаю…», уточняющего вопроса или перефразирования — базовых приемов активного слушания.
  • Диалог с чат-ботом больше похож на диалог с человеком, имеющим трудности коммуникации. Она может проигнорировать вопрос или в качестве ответа выдать что-то совершенно нелогичное. Напоминает диалог с твердолобым псевдоинтеллектуалом, который начитался умных книг и пересказывает их к месту и не к месту.
  • Сабина часто использует прямые указания: «вы должны», «вам следует», «необходимо сделать». Это идет вразрез с недирективной психотерапией, где задача специалиста — побудить клиента к самостоятельному принятию решения и ответственности за него, а не следовать чужим указаниями.
  • Поведение Сабины реактивно и неинициативно — она реагирует на вопросы и реплики, но сама не иницирует диалог и его развитие с помощью вопросов, как это делает специалист. До тех пор, пока чат-боты будут демонстрировать исключительно реактивный тип взаимодействия с пользователем, ни о какой психотерапии речь идти не может.

А должен ли чат-бот полностью воспроизводить психотерапевтическую коммуникацию так, как она происходит между людьми? Должны ли мы двигаться в направлении максимально реалистичной имитации поведения психотерапевта? Или следует переосмыслить сам психотерапевтический процесс применительно к взаимодействию человека и машины? Вопросы, которые должны поставить перед собой разработчики подобных продуктов.

Важно сказать, что разработчики не позиционируют Сабину в качестве психотерапевта, а представляют ее как друга и житейского психолога. Не совсем понятно, что имеется в виду под последним, ибо житейская психология часто сильно расходится с научной.

Чатбот это замена психолога?

Нет, Сабина это хороший, но все же чатбот эмулятор друга, он не является заменой профессиональному психологу, психотерапевту или психиатру.

С сайта продукта

При этом пользователи, скорее всего, будут воспринимать бота именно в качестве психолога или психотерапевта, что накладывает дополнительную ответственность за качество продукта.

Есть ли польза?

Из диалога с чат-ботом можно извлечь и немного полезной информации — как из любой популярной книги по психологии. Например, касательно гнева и агрессии:

  • «Проявления гнева включают раздражительность, беспокойство, фрустрированное поведение и агрессию».
  • «Дыхательные техники могут помочь снизить ваше кровяное давление и высвободить эндорфины, которые, в свою очередь, успокоят вас».
  • «Определите причину гнева. Попытайтесь понять это. Спросите себя, что вызвало гнев, как вы дошли до этого момента».
  • «Постарайтесь найти слова, чтобы выразить свои чувства. Выражение своих чувств, какими бы болезненными они ни были, — это первый шаг к их исцелению».
  • «Вы можете сказать: "Я расстроен тем, что ты сделал (эту вещь) . Я зол, что ты это сделал (вещь) . Я чувствую себя так, потому что ты сделал это (вещь) . Это заставляет меня чувствовать себя плохо, потому что ты сделал это (вещь) . Это заставляет меня чувствовать грусть, потому что ты сделал это (вещь) . Это заставляет меня злиться из-за того, что ты сделал (ту штуку)"».
  • «Высвобождение своего гнева включает в себя ответственное выражение своего гнева, передачу своего гнева без обвинения других и избегание саморазрушительных способов высвобождения гнева, таких как крики, ругань, подавление своего гнева, употребление алкоголя или наркотиков».

Конечно, это не психотерапия и не обучение навыкам, а обычное информирование. Обо всем этом можно прочитать в любой популярной книге по психологии.

А в чем отличие хорошей книги от чат-бота? Самое важное отличие в том, что у книги есть автор, который обладает признанной экспертностью и несет публичную ответственность за содержание контента.

Итог

Чат-бот Сабина — хороший повод поразмышлять о зонах и субъектах ответственности за контент, выдаваемый генеративным ИИ. Особенно, если этот контент касается ментального здоровья, включает советы и прямые указания.

Возможно, неслучайно самые популярные англоязычные чат-боты для ментального здоровья — Woebot и Wysa хоть и основаны на технологиях ИИ, предлагают все-таки диалоги по сценариям, созданным людьми.

Это и понятно — такие диалоги создают профессиональные специалисты, которые ответственны за качество контента и его доказательную базу. В крупных проектах с миллионной аудиторией нелепо сгенерированная фраза, очевидная ошибка или «вредный» совет могут похоронить продукт и доверие людей в принципе к подобным технологиям (недавний пример из сферы универсальных чат-ботов с ИИ — провал презентации нейросети Bard).

А кто несет ответственность за рекомендации, интерпретации и конкретные советы, которые самостоятельно генерирует ИИ?

Я протестировал лишь небольшой диалог с чат-ботом на начальном бесплатном тарифе. Возможно, чат-бот просто не успела «раскрыться» в полной мере за это время. В любом случае я желаю разработчикам успехов в совершенствовании этого продукта как в технологическом, так и этическом плане.

Если у вас будет психологическая трудность, вы обратитесь скорее:
К психологу или психотерапевту человеку.
К специальному чат-боту (Woebot, Wysa и др.).
К универсальному ChatGPT.
Ни к кому из них.
Показать результаты
Переголосовать
Проголосовать
0
7 комментариев
Написать комментарий...
Elena Logacheva

При создании любого бота на основе ИИ важно, на чем будет тренироваться нейросеть. Думаю, что для создания бота для решения таких практических задач просто нет достаточного количества информации. Тем более на русском языке

Ответить
Развернуть ветку
Игорь Павлов
Автор

Вы правы. Тогда два варианта: либо не создавать бот вообще, либо не брать деньги за недоработанный и слабый продукт.

Ответить
Развернуть ветку
Elena Logacheva

Согласна! Брать деньги за недоработанный продукт не стоит в любом случае. А ИИ пока лучше тренировать не на психологическом консультировании, в котором и людей-специалистов не так уж много. Но попытка интересная :)

Ответить
Развернуть ветку
Виктор Н. (FractalGPT)

Спасибо за пост.
Вы верно подметили основную проблему - теперь с бумом ChatGPT она уже всем широко известна и называется "галлюцинации" - то есть ответы правдоподобные, но не правдивые фактологически.

Продукт доделан и он сильный, но сегодняшний уровень технологий не позволяет нам устранить те проблемы о которых вы написали.

Корень этой проблемы в двух аспектах:
1. в самой архитектуре нейросети - она называется трансформер. Архитектура принципиально не позволяет добиваться точных ответов из "весов" нейросети - для справки никто, ни OpenAi, Google, Сбер, Meta - никто не решил эту проблему и вы можете это видеть в самом интерфейсе ChatGPT - мелким шрифтом у них тоже написано, что могут быть ошибки в фактах, событиях.
2. в проблеме выравнивания (англ alignment): нейросеть даже обучается давать ответы те, которые юзеры при оценке скорее всего оценят как хорошие, это RLHF. Но тут есть проблема - люди это люди, и они оценивают хорошими те ответы, которые их скорее утешают, чем те, которые реально качественные - и в этой сфере это особенно критично. Это вторая причина, которая вообще-то устраняется обучением модели, но не полностью.

Поэтому предыдущий комментатор тоже неправ - дело не в наличии данных, сколько бы их ни было все равно хороших ответов, эмпатии, проактивности не добиться никак. Ну есть еще проблема денег, но это уже оффтоп.

Если интересно мы проблему галлюцинаций не полностью, но значительно уменьшили в рамках другого проекта, более глобального - FractalGPT. Одна из фишек - наш собственный RAG - способ который позволяет модели прочитывать книги, статьи и давать по ним очень точные и правдивые ответы, почти без галлюцинаций. Разработка большая и сложная, но вот именно она способна вывести Сабину на новый уровень - ведь теперь она действительно будет вместо генерации бреда обращаться к книгам психологов и брать информацию оттуда.
ссылки: https://dtf.ru/u/637184-viktor-nosko/1695665-rossiyskie-razrabotchiki-obyavili-o-starte-fractalgpt-analoga-chatgpt-i-gpt-4-ot-openai

https://vc.ru/future/920668-razrabotchiki-fractalgpt-zapustili-qa-agenta-dlya-sverhtochnyh-otvetov-na-voprosy-po-dokumentam

Ответить
Развернуть ветку
Иван Егоров

Спасибо за статью.

Скажите, а вы трестировали chatGPT на предмет того как он справляется с функцией психолога?

Ответить
Развернуть ветку
Игорь Павлов
Автор

Пока только немного «игрался» с ним. Спасибо за идею, попробую протестировать его в этой роли!

Ответить
Развернуть ветку
Elena Logacheva

Если на русском - то совсем слабо. Много повторов, ошибок и прописных истин

Ответить
Развернуть ветку
4 комментария
Раскрывать всегда