«Мой адвокат — ChatGPT»

Новое исследование выявило парадокс: люди без юридического образования склонны больше доверять юридическим советам от нейросети, чем от профессиональных адвокатов.

Причём это доверие даже усиливается, когда человек не знает, где заканчивается живой юрист и начинается ИИ. Похоже, убеждённый тон и сложность терминов, которые любит использовать ChatGPT, создают иллюзию «глубокой экспертности». В результате непрофессионалы воспринимают его советы чуть ли не как высший авторитет.

Исследователи провели 3 опыта с общей выборкой в 288 человек. Когда участникам не сообщали, кто именно даёт совет — профессиональный адвокат или нейросеть, — люди чаще следовали рекомендациям от ChatGPT. Но даже если они знали, от кого исходит юридическое заключение, доверие нейросети сохранялось примерно на таком же уровне, как и доверие юристам.

Почему так происходит? Всё просто. Человек, не обладающий глубокими познаниями в праве, склонен путать «уверенный тон» с «компетентностью». LLM-модели отлично умеют звучать убедительно (часто неоправданно убедительно). Живые юристы отвечают проще, осторожнее и пространнее — и, к удивлению, оказываются по восприятию менее убедительными.

Попробовали в исследовании понять и другое: способны ли обычные люди отличать юридические ответы нейросети от рекомендаций человека, если изначально источник скрыт? Оказалось, делают они это лишь немногим лучше случайного угадывания — с результатом 59%.

Если были прецеденты, когда студенты пользовались ChatGPT для курсовых работ, то завтра уже можно ждать историй, когда подсудимые пойдут в суд с защитной речью, написанной ИИ. И это не шутка — здесь последствия могут быть намного серьезнее плохой оценки.

Евросоюз уже попытался взять ситуацию под контроль, прописав в своем AI Act обязательство помечать контент нейросетей в распознаваемом и проверяемом формате. Но одной лишь маркировки недостаточно: нужна и системная работа с ИИ-грамотностью. Люди должны привыкнуть чекать важную информацию в нескольких надёжных источниках и обязательно перепроверять выводы ChatGPT у реальных профессионалов (а то будет, как я уже писал).

Наряду с новыми удобствами нам нужно прокачивать и новую суперспособность — критическое мышление. Иначе в следующий раз поймаем себя на мыли: «Что-то ровно и уверенно говорит этот адвокат. Подозрительно как-то…»

Подписывайтесь на Telegram-канал Нейрократия.