Когнитивное искажение — это не ошибка. Точнее, не всегда
Когнитивные искажения называют ошибками мышления, но в строгом смысле они ошибками не являются. Ошибка — это сбой в системе, режим работы, который в проекте не предусмотрен. Человеческое же мышление в большинстве своём работает именно так, как и должно работать.
Называть нормальный режим работы искажением — плохая практика. Потому что искажение — это отклонение от нормы. А без ответа на вопрос «от какой нормы» утверждение повисает в воздухе.
Поп-психология активно торгует списками из 50, 100, 200 когнитивных искажений, не утруждая себя этим вопросом. В итоге «в суждении есть confirmation bias» работает примерно как высокая температура, когда не ясно, температуру чего измеряли и какова нормальная.
Откуда берётся эталон
Долгое время в науке — особенно в экономике — господствовала модель homo economicus. Гипотетический человек с тремя свойствами: полнота информации, неограниченные когнитивные ресурсы и выбор всегда наилучшего варианта из возможных.
По этому стандарту все наши решения — сплошная цепь ошибок. Мы не знаем всего, устаём думать и останавливаемся на «достаточно хорошем» задолго до идеального.
Герберт Саймон, работавший на пересечении экономики, психологии и теории ИИ, предложил другую точку зрения. Человек действует в условиях ограниченной рациональности: нет полной информации, нет безграничных ресурсов и выбирается не лучшее, а удовлетворяющее. Саймон назвал это satisficing — от satisfy (удовлетворять) и suffice (быть достаточным).
Если эталон — идеальная рациональность, мы ошибаемся всегда. Если эталон — адаптивность в условиях ограниченного времени, внимания и данных, те же самые механизмы выглядят как единственно разумное, что можно было сделать.
Эвристика и искажение — это одно и то же
В основе когнитивных искажений лежат эвристики — упрощённые правила обработки информации. Мозг использует их как аппроксимацию более сложных вычислений: быстро, дёшево, достаточно точно в большинстве ситуаций.
Возьмём фундаментальную ошибку атрибуции — склонность объяснять поведение других людей их характером, игнорируя обстоятельства. С точки зрения формального каузального анализа это отклонение: ситуационные факторы систематически недооцениваются.
Но посмотрим на механизм. Ситуация менее наблюдаема, чем человек. Внимание естественно фокусируется на агенте. Полный анализ всех обстоятельств требует времени и данных, которых нет. Эвристика «объясняй через характер» работает в большинстве повседневных случаев и экономит ресурсы. Только в специфических контекстах — где цена ошибки высока, а ситуационные факторы критичны — мы начинаем фиксировать систематическое смещение и называть его искажением.
Это один и тот же процесс. Он получает разные имена в зависимости от условий и от того, с каким эталоном мы его сравниваем.
Что из этого следует
Когда мы говорим о когнитивном искажении, мы всегда имеем дело с трёхуровневой конструкцией. Эвристика как базовое правило обработки информации. Эталон корректности — формальная логика, теория вероятностей, модель рационального выбора. И расхождение между результатом эвристики и этим эталоном, которое мы и называем искажением.
Пока не указан второй уровень, разговор о третьем бессодержателен. Называть решение ошибкой без указания стандарта — тавтология: искажение объявляется ошибкой потому, что уже названо искажением.
Это меняет вопрос, который стоит задавать.
Вместо списков когнитивных искажений следует запастись научными данными о том, как люди принимают решения. Таких данных набралось чрезвычайно много, а концепция ошибки мышления и искажений берёт начало из эпохи, когда агент считался исключительно рациональным и когда эмоции противопоставлялись мышлению.
Потому важно оценивать «относительно какого стандарта мы оцениваем это решение, и был ли этот стандарт достижим в данных условиях?»
Этот вопрос сложнее. Поэтому мы подменяем его более простым.