Эффект Барнума в действии: Как психология влияет на доверие к ИИ

Мы всё чаще взаимодействуем с ИИ в повседневной жизни. ИИ подбирает нам фильмы, рекомендует товары и даже делает финансовые прогнозы или даёт советы по решению психологических проблем — ИИ, кажется, знает нас лучше, чем мы сами

Если наше взаимодействие с ИИ происходит в форме диалога, где с нами говорят вежливым и дружелюбным тоном, то можно впасть в почти мистическую веру, что у нас появился отзывчивый и верный советчик, который понимает нашу личность. Но задумываемся ли мы о скрытых механизмах, которые приводят к доверию к этим цифровым собеседникам?

Ранее я уже писал о когнитивных искажениях, которые могут привести к чрезмерной вере в то, что ИИ обладает сознанием. В этот раз хочется поговорить об эффекте Барнума [1] и о том, как он влияет на нашу веру в персонализированные послания

Эффект Барнума, также известный как эффект Форера, заключается в том, что люди склонны воспринимать общие утверждения как уникально применимые к ним лично. Этот эффект объясняет, почему люди верят в гороскопы и результаты общих личностных тестов

Этот психологический трюк широко используется в астрологии и популярной психологии, создавая иллюзию глубокого понимания личности человека

Как же эффект Барнума связан с ИИ? Исследование, проведенное сотрудниками MIT Media Lab, показало, что люди обычно считают убедительными даже ВЫДУМАННЫЕ предсказания ИИ об их личном поведении

Как же эффект Барнума связан с ИИ? Исследование, проведенное сотрудниками MIT Media Lab, показало, что люди обычно считают убедительными даже ВЫДУМАННЫЕ предсказания ИИ об их личном поведении

> "В нашем исследовании мы наблюдали, что даже без какой-либо проверки работы системы люди считали предсказания фиктивного ИИ весьма достоверными, надежными, полезными и персонализированными. Другие исследователи изучали этот плацебо-эффект систем искусственного интеллекта, когда простое праймирование описаний ИИ приводило к тому, что люди воспринимали и вели себя по-другому." [2, с. 9].

Основной вывод такой: люди легко попадаются на удочку ИИ, принимая шаблонные алгоритмы за глубоко личные предсказания о своем будущем. Давайте подробнее рассмотрим нюансы из работы исследователей

Для проверки гипотезы об убедительности предсказаний, исследователи разработали интересный эксперимент, имитирующий взаимодействие с современными трейдинговыми терминалами с роботизированными помощниками

Методология эксперимента

1. Участники заполняли анкету о знаке зодиака (дата, время и место рождения)

2. Проходили сокращенный тест личности на основе индикатора Майерс-Бриггс [3]

3. Играли в инвестиционную игру-симулятор

4. Оценивали рекомендации в игре по нескольким критериям (достоверность, надежность, персонализированность и т.д.)

Игра была разработана следующим образом:

- Участникам предоставляли виртуальный капитал в 10 000 $ для инвестиций

- Всего было 10 раундов (лет) для принятия решений куда инвестировать

- В качестве опций предоставлялось 3 категории инвестиций с разным уровнем риска и доходности

- Каждому участнику предлагались псевдо-персонализированные рекомендации по распределению портфеля

- Игра симулировала рыночные циклы роста и спада - Участники получали прогнозы рынка перед каждым раундом

- Чтобы мотивировать участников к участию, им сказали, что результаты их инвестиций увеличат их общую компенсацию за исследование

Участникам сообщили, что на основе их действий в игре и предоставленной информации (знак зодиака, тест Майерс-Бриггс) они получат персонализированные прогнозы своего будущего инвестиционного поведения из трех источников:

1) астрологического источника;

2) анализа личности по тесту MBTI;

3) рекомендации от ИИ

Ключевой момент: все прогнозы были заранее подготовленными общими утверждениями, не основанными на реальных ответах и действиях участников. Это раскрывалось только после завершения эксперимента

- Люди в целом находили фиктивные предсказания ИИ, астрологии и личностной психологии убедительными. Это подтверждает влияние эффекта Барнума на то, как люди воспринимают такие предсказания

- Предсказания ИИ воспринимались участниками как более достоверные по сравнению с астрологическими предсказаниями. Разница между ИИ и психологическими тестами была статистически незначимой

- Участники оценивали предсказания как высоко персонализированные, несмотря на то, что они были общими для всех (!!!)

- Люди, склонные верить в астрологические и личностные предсказания более охотно верили предсказаниям ИИ. То есть, здесь сильно влияет изначальное доверие к различным интерпретациям личности

- Позитивное отношение к ИИ увеличивало веру в его предсказания, особенно в плане их надежности

- Интерес к теме предсказания (в данном случае интерес к инвестициям) повышал воспринимаемую достоверность, полезность и персонализацию предсказаний из всех источников. Получается, что чем сильнее мы заинтересованы в инвестиционном выигрыше, тем сильнее будем верить хоть предсказаниям осьминога

Интересный побочный вывод: некоторые личностные черты могут сделать нас более восприимчивыми к эффекту Барнума в контексте ИИ. Например, люди с высоким уровнем доброжелательности могут быть более склонны принимать расплывчатые утверждения ИИ-чат-ботов как лично значимые

Учитывая что ИИ сейчас пихают куда только можно, и то, что всем нам обещают «золотой век», в котором принимать правильные решения станет легче и проще, важно осознавать источники рекомендаций, на которых мы основываем свои решения. Нам говорят, что рекомендации основаны на наших взаимодействиях с системой, и возникает иллюзия того, что система способна точно предсказывать будущее или подстраиваться под нас. Однако стоит опасаться того, чтобы за внешне «умнейшим алгоритмом» не скрывалась простая шаблонная рекомендация на базе генератора случайных чисел

Ссылки:

[1] https://www.britannica.com/science/Barnum-Effect
[2] https://arxiv.org/pdf/2408.06602v1
[3] https://www.themyersbriggs.com/en-US/Products-and-Services/Myers-Briggs

Подписывайтесь на мой канал в Телеграм, там я публикую интересные наблюдения и размышления про технологии, общество, менеджмент и философию