Наш мозг – саботажник

Этот пост мне прям давно хотелось написать, но руки не доходили. Я приложу некоторые усилия к тому, чтобы не написать трехтомное собрание сочинений, но обещать ничего не могу.

В первую очередь, зачем вам читать про когнитивные искажения? Затем, что вы каждый день принимаете решения разного уровня: какой из двух похожих товаров купить, кого нанять на работу, менять ли свое место работы; согласиться ли с лечением, которое назначает вам врач и так далее. На любом этапе вашей жизни вы принимаете решения и, думаю, вам бы хотелось верить в то, что вы объективны и рациональны. Однако наш прекрасный сложный мозг, наш главный инструмент, имеет множество изъянов, отловить которые бывает очень непросто (потому что мы это тоже мозгом делаем).
К счастью, вот уже много лет много очень умных людей, вооружившись томографами, электроэнцефалографами и прочими достижениями науки и техники, активно исследуют наш мозг и уже сумели сделать немало важных выводов. В своем посте я буду много цитировать монументальный труд Д. Канемана, который на русском языке вышел под названием «Думай медленно… Решай быстро». Если вы подписаны на мой телеграм, то уже знаете, как я ее рекомендую (если не подписаны, загляните, вдруг понравится). Если у вас мало времени на чтение, попробуйте книгу А. Панчина «Защита от темных искусств. Путеводитель по миру паранормальных явлений». Она поменьше и полегче, написана хорошим языком. Еще есть книга «Почему мы ошибаемся?» Д. Халлинана и много других хороших книг.
Разумеется, у меня нет цели пересказать все книги и исследования о когнитивных искажениях, это не мой жанр. Поэтому я всего лишь опишу несколько самых интересных, на мой взгляд, искажений, постараюсь заинтересовать вас изучением темы и отошлю к перечисленным выше книжкам. Поехали.

Эвристика доступности – это искажение, которое заставляет нас думать о некоем явлении как о распространенном, потому что мы смогли легко его вспомнить. В книге «Думай медленно… Решай быстро» Д. Канеман приводит такие примеры (Глава 13. Доступность, эмоции, риск. Доступность и аффект):

Мы и сами можем легко вспомнить подходящие примеры: летать на самолетах безопаснее, чем ездить на автомобиле, однако летать боится больше людей. Также многие боятся нападения акул, в то время как риск быть убитым упавшим на голову кокосом выше, чем риск пострадать от нападения акулы (риск быть съеденной человеком у акулы выше, чем наоборот).
Причина нашего искаженного восприятия в том, что мы узнаем о происшествиях по сообщениям в СМИ или постам в социальных сетях, а они склоняются в сторону необычных событий, которые должны вызвать бурную реакцию читателей. К сожалению, гибель человека в автокатастрофе – это не новость для телевизионного репортажа, а вот крушение самолета туда, скорее всего, попадет. Поэтому, вспоминая все возможные причины смерти, мы скорее вспомним о самолете, чем об автомобиле.
Это касается не только трагичных событий, но и восприятия каких-нибудь современных тенденций. Если какая-нибудь звезда соцсетей, скажем, покрасила волосы в яркий цвет, и все немедленно бросились это обсуждать, нам быстро начнет казаться, что все только и делают, что красят волосы в безумные цвета. При этом мы едва ли вспомним о том, что распространенное или обычное таким бурным обсуждениям не подвергается.
Свои исследования, касающиеся эвристики доступности, Д. Канеман и А. Тверски описывают в статье «Availability: A heuristic for judging frequency and probability» («Доступность: прием для оценки частоты и вероятности»).
Конкретно они пишут следующее: «Жизненный опыт научил нас, что объекты, относящиеся к большим классам, вспоминаются лучше и быстрее, чем объекты меньших (реже встречаемых) классов, что вероятные события представить легче, чем менее вероятные и что ассоциативные связи сильнее между теми событиями, которые часто сопутствуют друг другу».
Далее авторы приводят серию экспериментов, в которых в общей сложности участвовали около полутора тысяч человек. В каждом эксперименте авторам был известен правильный ответ на вопрос о частоте и вероятности, поэтому было несложно сравнить оценки участников экспериментов с реальными данными. Вообще это очень полезная практика – обращаться к реальным данным каждый раз, когда вы делаете суждение о частоте или вероятности событий.

Говоря об эвристике доступности, сложно не упомянуть еще одно важное искажение – влияние формулировки на восприятие. У Д. Канемана в книге это искажение описано в Главе 34. «Рамки и реальность». Однако мне кажется важным сказать о нем сейчас: дело в том, что «рамки» (то есть, формулировка, в которой нам задается вопрос) тоже подталкивают наш мозг к тому, чтобы быстрее вспомнить конкретные примеры событий.
Довольно часто фрейминг рассматривают как манипулятивную технику, которая используется для того, чтобы вызвать у читателей или слушателей определенные чувства и подтолкнуть их к принятию определенной точки зрения. Однако гораздо чаще, как мне кажется (тут нет у меня данных, к сожалению), он используется совершенно непреднамеренно.
Есть очень яркий пример работы фрейминга, который Д. Канеман описывает в своей книге. Речь идет о публикации «Do defaults save lives?» («Спасают ли жизни варианты по умолчанию?»). Э. Д. Джонсон и Д. Голдштейн изучали вопрос пожертвования органов и заметили, что, хотя 85% американцев одобряют такое пожертвование согласно опросам, только 28% дали разрешение на использование своих органов после смерти для спасения чужих жизней. Далее они обнаружили, что есть европейские страны, такие как Австрия, Франция и Бельгия, в которых согласия на донорство органов подписывает почти 100% тех, кому предлагают его подписать (в некоторых странах при получении водительского удостоверения человек подписывает такое согласие на случай собственной гибели). А в соседних и близких по социоэкономическим показателям Германии и Нидерландах доля таких согласий составляет 12% и 27,5% соответственно.

Причина оказалась в постановке вопроса: В Австрии, Бельгии, Франции и других странах, которые на диаграмме выше отмечены голубым цветом, донорство – это «вариант по умолчанию». Человек ставит галочку в нужном месте, если он хочет отказаться от донорства, в противном случае признается, что он дал согласие на донорство.
В Германии, Нидерландах и других странах, отмеченных желтым цветом, галочку нужно ставить, если человек согласен стать донором, в противном случае он потенциальным донором не признается.
Подробное исследование фрейминга Д. Канеман и А. Тверски описывают статье «The framing of decisions and the psychology of choice» («Фрейминг решений и психология выбора»). В ней авторы приводят описания экспериментов, в которых показывают, как постановка вопроса влияет на ответ участников. Приведем здесь один пример (это задачи 1 и 2 в статье, они также описаны в книге).
В США готовятся к приходу «необычной азиатской болезни» (статья, если что, была написана в 1981 году), которая унесет жизни 600 человек. Предлагается две альтернативные программы для борьбы с болезнью:

Какую программу приняли бы вы?
Из 152 участников эксперимента 72% выбрали программу А, и только 28% – программу Б.
Обратите внимание на то, что математическое ожидание числа спасенных жизней на самом деле одинаково: 200 человек. В первом случае все понятно, а во втором оно рассчитывается как сумма произведений вероятностей и величин переменных (1/3 * 600 + 2/3 * 0 = 200). Однако перспектива гарантированного спасения привлекает больше.
Теперь проблема та же самая, но программы выглядят так:

Какая из двух программ вам нравится больше?
Я думаю, вы уже заметили, что программа В – это программа А, только переформулированная. Программа Г – это программа Б. Однако в эксперименте участвовали две группы людей (во второй было 155 человек). Первая группа видела только формулировки А и Б, а вторая – только В и Г.
Во второй группе участников 22% выбрали программу В, 78% – программу Г.
В жизни обычно так и бывает: мы видим только один вариант формулировки каждый раз, когда нам нужно принять решение. «С вероятностью 5% у вашего ребенка поднимется температура после привики». Хорошей практикой будет предлагать себе второй вариант – «С вероятностью 95% после прививки ваш ребенок будет чувствовать себя хорошо».

У Канемана глава про когнитивную легкость (Глава 5) входит в первую часть и предваряет разговор о фрейминге и эвристике доступности. Дело в том, что когнитивная легкость – это не искажение как таковое, а, скорее, механизм, из-за которого ранее описанные искажения становятся возможными. Мне показалось логичным поместить этот раздел после описания эвристики доступности и фрейминга, потому что некоторые вещи проще понять сначала на конкретных примерах, а потом уже в теории.Итак, когнитивная легкость – это показатель уровня напряжения, которое необходимо для решения стоящей перед нами задачи. Ощущение легкости может возникать, когда у нас хорошее настроение или когда нам кажется , что задача нам знакома. В статье «Illusions of Immediate Memory: Evidence of an Attributional Basis for Feelings of Familiarity and Perceptual Quality» («Иллюзия непосредственной памяти: доказательства того, что ощущение знакомости и качество восприятия основаны на атрибуции»; атрибуция – это механизм объяснения причин явления или поведения объекта за счет приписывания явлению или объекту определенного набора характеристик) авторы исследуют, как возникает ощущение узнавания. Например, в первом из описанных экспериментов испытуемым предлагалось просмотреть список из семи слов, после чего им показывали восьмое и спрашивали, встречалось ли оно в списке. При этом последнее слово показывалось с добавлением некоторого уровня визуального шума (точек на экране): от 20% до 40% области, в которой находилось слово, было закрыто шумом. После того, как испытуемые заканчивали визуальный тест, им задавали некоторые вопросы относительно того, как именно они понимали, что слово встречалось ранее и было ли им сложнее определить повторяемость отдельных слов. Кроме того, в процессе самого эксперимента участники читали возникающие на экране слова вслух, и скорость прочтения была измерена.Так вот, обработка данных, полученных их эксперимента, показала, что слова с меньшим визуальным шумом участники читали быстрее (что понятно, оно виделось четче) и чаще ошибочно определяли как виденные ранее. И наоборот: слова, скрытые визуальным шумом в большей степени, узнавали реже, когда они повторялись.Это только один пример и только один эксперимент, я не буду приводить здесь все остальные. Но, думаю, общая идея должна быть понятна к этому моменту.В своей книге Канеман использует метафоры: Систему 1 и Систему 2. Система 1 скорее автоматическая, чем сознательная. Она срабатывает первой, пользуется хранящимися в памяти стереотипами и воспоминаниями. Все то, над чем мы не задумываемся, управляется Системой 1. В присутствии когнитивной легкости мы задумываемся меньше, поскольку у нас есть ощущение, что задача простая, знакомая, и не требует сознательных усилий. Еще один хороший пример – широко известная задача про биту и мяч: «Бейсбольная бита и мяч вместе стоят 11 долларов. Бита дороже мяча на 10 долларов. Сколько стоит мяч?» «1 доллар» – это ответ Системы 1. Он неправильный, и вы можете легко в этом убедиться, составив простое уравнение.Составлением уравнений как раз занимается Система 2. Ее работа требует усилий и внимания. Проблема в том, что наш мозг не любит усилия. Это очень энергоемкий орган, который большую часть времени занят тем, чтобы экономить ресурсы. Когнитивная легкость – это признак работы системы энергосбережения.

Справедливости ради, с большинством бытовых задач мы отлично справляемся на автомате и не должны задумываться над каждым шагом. Однако время от времени бережливость нашего мозга приводит к ошибкам, которые стоят денег (иногда времени, здоровья или радости).

Регрессия к среднему – это ошибка, послужившая почвой для некоторых детских травм. В главе 17 своей книги Канеман приводит пример из своей работы с инструкторами израильских военных летчиков. Он им долго рассказывал про то, что похвала способствует улучшению результатов обучения, в то время как наказание снижает креативность и тягу к знаниям. Инструкторы, как и многие школьные учителя и родители, придерживались противоположного мнения: если курсанта похвалить, он немедленно совершает ошибку. Но если на него прикрикнуть, он соберется и сделает все как надо, логично же. То же самое со школьниками: только его похвалишь, как он тут же расслабляется. А вот если держать в ежовых рукавицах…
Простой эксперимент с бросанием монеток в нарисованную мишень показал, что безо всякой похвалы и ругани за особенно удачными попытками, как правило, следуют менее удачные, и наоборот. Тот же эффект наблюдается и у профессиональных гольфистов во время игры, и у студентов. У каждого человека на каждом этапе его развития есть некоторый средний уровень владения навыком (например, меткость, при бросании монетки в цель). В силу случайности или удачи он может в ходе одной попытки бросить монетку более удачно, но в следующий раз вероятность того, что точность его броска окажется ближе к средней, выше, чем вероятность снова попасть прямо в цель. Точно так же, если он случайно промахнется один раз, в следующий чисто статистически он, скорее всего, снова продемонстрирует свой средний уровень. При этом его можно хвалить, ругать или вообще не трогать – кроме его самооценки и ваших отношений едва ли что-то изменится.

Мы уже слегка касались вопроса доверия экспертам в посте про сложность ИИ. Здесь постараюсь развить эту мысль.
На доверии экспертам строится довольно много прогнозов от инвестиционной привлекательности компании до развития политической обстановки в отдельно взятой стране или мире в целом. Эксперты – люди, посвятившие себя работе в своей области и имеющие внушительный опыт. Если они что-то предсказывают, оно должно произойти, так? С одной стороны, это как будто бы логично, но, с другой стороны, эксперты – те же люди, и они делают те же ошибки, что и простые смертные.
Здесь и в самом деле есть две стороны. Одна заключается в том, что практика определенного навыка, будь то отслеживание фондовых рынков, или тушение пожаров, или игра в бадминтон приводит к запоминанию набора признаков, которыми предваряется некий исход. В главе 22 книги Канемана приводится пример опытного пожарного, который выскочил из горящего дома за мгновение до того, как дом рухнул, но не мог объяснить, что заставило его так сделать. Вероятнее всего, он много раз наблюдал, а также обсуждал с коллегами подобные события и, сам того не осознавая, запомнил набор сигналов, которые позволили принять верное решение за доли секунды. Это мы тоже назовем интуицией, однако она основана на знании реальных закономерностей, которые хранятся в памяти и извлекаются из нее в ответ на стимул извне. Речь не идет о таком «узнавании», какое было описано в предыдущем разделе, когда ситуация только кажется известной, но на деле таковой не является.

Есть и противоположный пример: история о враче начала XX века (в книге нет конкретной ссылки, но, кажется, речь идет о работе «What Doctors Don’t Know» Lewis Thomas – «Чего не знают врачи», Льюис Томас). Он диагностировал у своих пациентов склонность к развитию тифа, проводя пальпацию их языка. При этом мытье рук между приемами пациентов – это сравнительно недавняя практика, тот врач еще ее не применял. В итоге он передавал тиф от пациента к пациенту, зато его прогнозы были очень точны.

Канеман указывает, что важным условием для развития надежной интуиции является наличие быстрой обратной связи. Например, такая обратная связь есть у анестезиологов, которые могут наблюдать результат собственных действий практически моментально. У радиологов, напротив, результат отсрочен, поэтому развить умение эффективно предсказывать развитие состояния пациента им гораздо сложнее.

Единственный практический вывод из всех этих рассуждений следующий: необходимо старательно ловить себя за руку каждый раз, когда эта рука стремится написать прогноз, основанный на интуиции. Важно спросить себя, что стоит за ощущением правильности предсказания: опыт (и тогда, напрягшись, можно выявить тот набор объективных факторов, который привел к предсказанию) или когнитивная ошибка. И уж точно не стоит отказываться от двойной проверки, даже если вы совершенно уверены в собственной экспертизе.

Здесь же можно упомянуть эффект ореола («гало эффект»), который впервые был описан Эдвардом Торндайком. Этот эффект исследуется во множестве разрезов уже сравнительно давно. Есть, например, исследование про влияние парфюма на впечатление о привлекательности и успешности человека. Это только один пример, и мы не будем вдаваться в подробности. Посыл этого абзаца в том, что иногда нам кажется, что эксперт невероятно компетентен, если он, например, грамотно излагает свои мысли. Или хорошо выглядит. Или по любой другой причине, которая не связана с его профессиональными навыками на самом деле.

Глава 31 начинается с двух примеров:
«Пример 1:
Выберите между:
А. Верной прибылью в 240 долларов и
Б. шансом в 25% выиграть 1 000 долларов и шансом в 75% не выиграть ничего.
Пример 2:
Выберите между:
А. Верной потерей 750 долларов и
Б. шансом в 75% потерять 1 000 долларов и шансом в 25% не потерять ничего.»
Вы, конечно, уже посчитали математические ожидания для всех предложенных вариантов. Однако участники эксперимента видели такие задачи впервые, поэтому выбрали вариант А в первом случае и вариант Б во втором. Исследователи назвали увиденный эффект «неприятие рисков» и «стремление к риску». В дальнейших экспериментах увиденное подтвердилось: люди скорее выбирают небольшой, но верный выигрыш, если выбрать нужно между верным выигрышем и риском с потенциально большей отдачей. И скорее выбирают игру, если есть выбор между гарантированной потерей и небольшим шансом что-то сохранить.
С подобными выборами мы сталкиваемся, когда покупаем страховку, например, или делаем высокорисковые инвестиции. Разумеется, я никого не буду призывать отказаться от покупки страховок (сама покупаю страховки маниакально на все, что только можно, даже если в перспективе это невыгодно с финансовой точки зрения). Однако практический вывод здесь все-таки можно сделать, и это вывод о том, как именно мы относимся к риску.
Мы можем рассматривать каждый выбор по отдельности или как часть последовательности выборов, каждый из которых принесет нам убытки или выигрыши. Тогда печаль от потери в одном конкретном случае меньше, ведь мы можем ожидать, что мы выиграем от последовательности случаев.

Да, вы и без меня это знали.
Но мне показалось интересным поговорить о доказательстве очевидных вещей (а вдруг у нас тут искажение, и нам только кажется, что мы правы?).
В главе 37 Канеман приводит исследования ощущаемого благополучия. В ходе этих исследований выяснилось, например, что дорога на работу вызывает больше всего страданий в течение дня (это исследование проводилось для американских женщин, но у меня есть подозрение, что многие представители рода человеческого будут с ними солидарны). Еще выяснилось, что еда приносит больше удовольствия, если есть внимательно и не заниматься параллельно посторонними делами. И еще что наличие детских садов здорово повышает субъективное ощущение благополучия матерей.
Что касается богатства, оно, по всей видимости, повышает удовлетворенность жизнью, но не слишком улучшает эмоциональное состояние («High income improves evaluation of life but notemotional well-being»). Бедность же усиливает негативные ощущения от прочих жизненных неурядиц. Бедные люди сильнее страдают от болезней и тяжелее переносят, например, головную боль. Богатые люди сообщают об ухудшении эмоционального состояния при головной боли в 19-38% случаев (в зависимости от группы по уровню дохода), а бедные – в 70%. По-моему, красноречиво.
В качестве практического вывода из этого раздела пожелаю вам богатства и здоровья.

Конечно, мне не удалось вместить в один пост вообще все когнитивные искажения. Эта тема, кажется, неисчерпаема, и говорить о ней всегда очень интересно. Поэтому я буду продолжать писать про такие вещи, как искажения воспоминаний и наследование человеческих ошибок большими языковыми моделями (и много про что еще) в своих следующих постах.
Часть таких материалов выйдет здесь, часть в телеграме, вперемешку с обычными моими постами про отдельные нейросети. А пока добро пожаловать в комментарии, давайте все обсуждать.