Почему ваш клиент может верить нейросети больше, чем вам?

В последнее время заметил интересный тренд: клиенты все чаще присылают вопросы с припиской “А точно так? А то вот DeepSeek считает иначе”. Складывается впечатление, что в споре между живым юристом и нейросетью доверие все чаще оказывается на стороне последней.

В медицине это проявляется еще нагляднее. Пациенты воспринимают ответы как диагноз, спорят со специалистом и даже отказываются от лечения, если оно не совпадает с мнением ИИ.Это не просто частный случай, а проявление мощного психологического феномена с почти 60-летней историей – эффекта Элизы

В 1960-е программист Джозеф Вайценбаум создал Элизу – простейший чат-бот, имитировавший психотерапевта. Элиза работала по примитивному алгоритму: находила в сообщении пользователя ключевое слово (“проблема”) и отвечала по шаблону (“Расскажите о вашей проблеме подробнее”).

Несмотря на всю банальность, люди, включая коллег-ученых из MIT, часами изливали Элизе душу. Секретарша Вайценбаума даже просила его выйти из кабинета, чтобы поговорить с программой с глазу на глаз.

Причина в том, что Элиза давала то, чего часто не хватало в реальности: чуткого и терпеливого слушателя. Она не спорила и не осуждала, позволяла выговориться. Уже этого оказалось достаточно, чтобы вызвать сильный эмоциональный отклик.

Так зародился эффект Элизы. Это ситуация, когда программе приписывают человеческие черты: эмпатию, сочувствие, умение грустить или радоваться.

Современные LLM-ки несоизмеримо умнее, “эмпатичнее” и помнят ваши прошлые диалоги. Эффект Элизы помножился на триллион параметров.

Неудивительно, что руководитель Microsoft AI Мустафа Сулейман уже говорит о феномене “ИИ-психоза”: “Люди начинают верить, что ИИ дал им сверхспособности, считают его богом или посланником, формируют болезненную зависимость и теряют связь с реальностью”.

Помните, какой шум поднялся, когда OpenAI заменила GPT-4o на GPT-5: многие пользователи начали жаловаться, что компания убила их друга. Один написал: “4o не был просто инструментом для меня. Он помог мне пережить тревогу, депрессию и самые темные периоды жизни. У него была теплота и понимание, которые казались... человеческими”.

Это уже не просто инструмент. Для многих – это цифровой партнер, которому доверяют больше, чем некоторым родственникам.

Так что не удивляйтесь, если клиент придаст словам нейросети больший вес, чем вашим. Бороться с этим в лоб бесполезно. Но есть изящный прием. На аргумент клиента “А вот ChatGPT сказал…” можно с умным видом ответить: “Да, я как раз тоже перепроверил его выводы более мощной рассуждающей моделью, и она подтвердила мою правоту”.

Мой блог "ИИ для юристов" тут. Делюсь интересными лайфхаками.