Как я пообщался с Сабиной — психологическим чат-ботом
В продолжение недавней статьи для РБК я решил подробнее познакомиться с российским чат-ботом Сабина, который позиционируется как первый психологический чат-бот в рунете, созданный на основе генеративной нейросети. Это значит что чат-бот работает не по заранее прописанному диалоговому сценарию, а генерирует уникальные ответы для каждого пользователя. Как настоящий человек. Вот только человеческого в нем пока еще очень мало.
Первое, что меня насторожило уже на сайте бота, — это раздел «Частые вопросы»:
За дополнительную плату на сайте бота предлагают кастомизацию личности Сабины. Например, она может обращаться к вам: «Мой господин». Феминистки и феминисты, конечно, были бы в шоке от такого.
В презентации бота на Vc. ru сказано:
Чат-бот, который создан, чтобы имитировать психолога, позволяет себя оскорблять, домогаться и обращается к вам «Мой господин». Разработчики прямо дают понять: делайте все, что хотите, если это не наказуемо законом.
Как так? Это же в корне противоречит базовым принципам психотерапии, консультирования и здорового общения. Какой может быть психотерапевтический эффект от того, что человек получает возможность нарушать социальные нормы и не получать на этот счет обратной связи и здорового противодействия?
Справедливости ради надо сказать, что сама чат-бот осуждает оскорбления и насилие:
Сабина, я злюсь!
Я начал диалог с простой фразы: «Я чувствую злость». На что чат-бот спросила, какой вид гнева я имею в виду. На мой вопрос «А какие бывают?», Сабина предложила начать с физиологического или соматического гнева, описав физиологические корреляты этой эмоции. Т. е. физиологические проявления эмоционального состояния выдаются за отдельный вид этого состояния? Хм…
Далее Сабина предложила несколько типичных способов справиться с гневом — подышать и осознать его причины. Самое странное началось в момент обсуждения причин. Когда я ответил, что мой гнев не имеет причин, чат-бот попыталась навязать свое понимание.
Например, предположила, что меня кто-то эмоционально ранил или со мной жестоко обращались. Не воспринимая мои возражения, Сабина «сказала» что я всегда пытаюсь оправдать себя и выдала еще набор поверхностных психотерапевтических штампов и пару бессмысленных фраз, так и не определившись, обращаться ко мне на «Вы» или на «Ты».
Сабина, что делать с агрессией?
Удалось немного «поговорить» с ботом и на тему агрессии. Несмотря на то, что в психологии есть прекрасные книги о когнитивной основе агрессии, Сабина демонстрирует очень поверхностные представления о насилии и агрессивном поведении, например заявляя, что:
Когда подобные исследования проводятся, никогда не делается вывод о влиянии генетики на психологию человека, т. к. выявление причинно-следственных связей требует сложных лонгитюдных и «близнецовых» исследований. Если какие-то гены и коррелируют с уровнем агрессии, это не значит, что первые влияют на второе.
Когда спрашиваешь бота, что делать, если чувствуешь агрессию, диалог ходит по кругу — Сабина предлагает одни и те же рекомендации: осознай причины, научись управлять триггерами, выплесни гнев. Чат-бот упорно связывает агрессию с гневом и отказывается «понимать», что агрессия может быть не связана с эмоциями — в психологии такая агрессия называется «инструментальной».
КПТ? Не, не слышала
В описании чат-бота заявлено, что она создана с учетом последних достижений когнитивно-поведенческой психотерапии. Однако в советах, предлагаемых ботом, этот подход особо не представлен.
Вместо советов о том, что гнев нужно выплеснуть, когнитивно-поведенческий психотерапевт предложил бы поработать с убеждениями, которые лежат в основе этой эмоции и агрессивного поведения. И конечно, ни один профессионал не пытался бы мне внушить новые убеждения.
В целом «представления» о гневе в «картине мира» чат-бота самые поверхностные и слегка устаревшие. Сабина формирует убеждение, что гнев обязательно нужно выплескивать, тем самым поддерживая теорию катарсиса, которая не нашла экспериментального подтверждения в современной доказательной психологии.
Почему диалог с Сабиной совсем не похож на диалог с психологом
- Сабина даже не пытается имитировать эмпатию, хотя разработчики позиционируют ее как эмпатичного бота. В результате нет ощущения контакта. Я не услышал от чат-бота элементарной фразы: «Понимаю…», уточняющего вопроса или перефразирования — базовых приемов активного слушания.
- Диалог с чат-ботом больше похож на диалог с человеком, имеющим трудности коммуникации. Она может проигнорировать вопрос или в качестве ответа выдать что-то совершенно нелогичное. Напоминает диалог с твердолобым псевдоинтеллектуалом, который начитался умных книг и пересказывает их к месту и не к месту.
- Сабина часто использует прямые указания: «вы должны», «вам следует», «необходимо сделать». Это идет вразрез с недирективной психотерапией, где задача специалиста — побудить клиента к самостоятельному принятию решения и ответственности за него, а не следовать чужим указаниями.
- Поведение Сабины реактивно и неинициативно — она реагирует на вопросы и реплики, но сама не иницирует диалог и его развитие с помощью вопросов, как это делает специалист. До тех пор, пока чат-боты будут демонстрировать исключительно реактивный тип взаимодействия с пользователем, ни о какой психотерапии речь идти не может.
Важно сказать, что разработчики не позиционируют Сабину в качестве психотерапевта, а представляют ее как друга и житейского психолога. Не совсем понятно, что имеется в виду под последним, ибо житейская психология часто сильно расходится с научной.
При этом пользователи, скорее всего, будут воспринимать бота именно в качестве психолога или психотерапевта, что накладывает дополнительную ответственность за качество продукта.
Есть ли польза?
Из диалога с чат-ботом можно извлечь и немного полезной информации — как из любой популярной книги по психологии. Например, касательно гнева и агрессии:
- «Проявления гнева включают раздражительность, беспокойство, фрустрированное поведение и агрессию».
- «Дыхательные техники могут помочь снизить ваше кровяное давление и высвободить эндорфины, которые, в свою очередь, успокоят вас».
- «Определите причину гнева. Попытайтесь понять это. Спросите себя, что вызвало гнев, как вы дошли до этого момента».
- «Постарайтесь найти слова, чтобы выразить свои чувства. Выражение своих чувств, какими бы болезненными они ни были, — это первый шаг к их исцелению».
- «Вы можете сказать: "Я расстроен тем, что ты сделал (эту вещь) . Я зол, что ты это сделал (вещь) . Я чувствую себя так, потому что ты сделал это (вещь) . Это заставляет меня чувствовать себя плохо, потому что ты сделал это (вещь) . Это заставляет меня чувствовать грусть, потому что ты сделал это (вещь) . Это заставляет меня злиться из-за того, что ты сделал (ту штуку)"».
- «Высвобождение своего гнева включает в себя ответственное выражение своего гнева, передачу своего гнева без обвинения других и избегание саморазрушительных способов высвобождения гнева, таких как крики, ругань, подавление своего гнева, употребление алкоголя или наркотиков».
Конечно, это не психотерапия и не обучение навыкам, а обычное информирование. Обо всем этом можно прочитать в любой популярной книге по психологии.
А в чем отличие хорошей книги от чат-бота? Самое важное отличие в том, что у книги есть автор, который обладает признанной экспертностью и несет публичную ответственность за содержание контента.
Итог
Чат-бот Сабина — хороший повод поразмышлять о зонах и субъектах ответственности за контент, выдаваемый генеративным ИИ. Особенно, если этот контент касается ментального здоровья, включает советы и прямые указания.
Возможно, неслучайно самые популярные англоязычные чат-боты для ментального здоровья — Woebot и Wysa хоть и основаны на технологиях ИИ, предлагают все-таки диалоги по сценариям, созданным людьми.
Это и понятно — такие диалоги создают профессиональные специалисты, которые ответственны за качество контента и его доказательную базу. В крупных проектах с миллионной аудиторией нелепо сгенерированная фраза, очевидная ошибка или «вредный» совет могут похоронить продукт и доверие людей в принципе к подобным технологиям (недавний пример из сферы универсальных чат-ботов с ИИ — провал презентации нейросети Bard).
А кто несет ответственность за рекомендации, интерпретации и конкретные советы, которые самостоятельно генерирует ИИ?
Я протестировал лишь небольшой диалог с чат-ботом на начальном бесплатном тарифе. Возможно, чат-бот просто не успела «раскрыться» в полной мере за это время. В любом случае я желаю разработчикам успехов в совершенствовании этого продукта как в технологическом, так и этическом плане.
При создании любого бота на основе ИИ важно, на чем будет тренироваться нейросеть. Думаю, что для создания бота для решения таких практических задач просто нет достаточного количества информации. Тем более на русском языке
Вы правы. Тогда два варианта: либо не создавать бот вообще, либо не брать деньги за недоработанный и слабый продукт.
Согласна! Брать деньги за недоработанный продукт не стоит в любом случае. А ИИ пока лучше тренировать не на психологическом консультировании, в котором и людей-специалистов не так уж много. Но попытка интересная :)
Спасибо за пост.
Вы верно подметили основную проблему - теперь с бумом ChatGPT она уже всем широко известна и называется "галлюцинации" - то есть ответы правдоподобные, но не правдивые фактологически.
Продукт доделан и он сильный, но сегодняшний уровень технологий не позволяет нам устранить те проблемы о которых вы написали.
Корень этой проблемы в двух аспектах:
1. в самой архитектуре нейросети - она называется трансформер. Архитектура принципиально не позволяет добиваться точных ответов из "весов" нейросети - для справки никто, ни OpenAi, Google, Сбер, Meta - никто не решил эту проблему и вы можете это видеть в самом интерфейсе ChatGPT - мелким шрифтом у них тоже написано, что могут быть ошибки в фактах, событиях.
2. в проблеме выравнивания (англ alignment): нейросеть даже обучается давать ответы те, которые юзеры при оценке скорее всего оценят как хорошие, это RLHF. Но тут есть проблема - люди это люди, и они оценивают хорошими те ответы, которые их скорее утешают, чем те, которые реально качественные - и в этой сфере это особенно критично. Это вторая причина, которая вообще-то устраняется обучением модели, но не полностью.
Поэтому предыдущий комментатор тоже неправ - дело не в наличии данных, сколько бы их ни было все равно хороших ответов, эмпатии, проактивности не добиться никак. Ну есть еще проблема денег, но это уже оффтоп.
Если интересно мы проблему галлюцинаций не полностью, но значительно уменьшили в рамках другого проекта, более глобального - FractalGPT. Одна из фишек - наш собственный RAG - способ который позволяет модели прочитывать книги, статьи и давать по ним очень точные и правдивые ответы, почти без галлюцинаций. Разработка большая и сложная, но вот именно она способна вывести Сабину на новый уровень - ведь теперь она действительно будет вместо генерации бреда обращаться к книгам психологов и брать информацию оттуда.
ссылки: https://dtf.ru/u/637184-viktor-nosko/1695665-rossiyskie-razrabotchiki-obyavili-o-starte-fractalgpt-analoga-chatgpt-i-gpt-4-ot-openai
https://vc.ru/future/920668-razrabotchiki-fractalgpt-zapustili-qa-agenta-dlya-sverhtochnyh-otvetov-na-voprosy-po-dokumentam
Спасибо за статью.
Скажите, а вы трестировали chatGPT на предмет того как он справляется с функцией психолога?
Пока только немного «игрался» с ним. Спасибо за идею, попробую протестировать его в этой роли!
Если на русском - то совсем слабо. Много повторов, ошибок и прописных истин