Кооперация человека с ИИ

Кому проще работать с ИИ и у кого это лучше получается? Я поискала, но не нашла исследований, которые бы связывали успешный опыт работы с ИИ с какими-либо чертами личности. Некоторые источники указывают на то, что позитивно влияют открытость новому, склонность к критическому мышлению и стремление к экспериментам. Но это как будто бы и не новость вовсе.
Но вот что меня зацепило, так это статья про разные стили взаимодействия людей с ИИ. Давайте же их обсудим.

Речь о статье «Towards the design of user-centric strategy recommendation systems for collaborative Human–AI tasks» («Человекоцентричный дизайн рекомендательных систем для задач, в которых человек сотрудничает с ИИ»). Эта статья – препринт. То есть, она пока не прошла рецензирование и выложена в открытый доступ до официальной публикации (это делается для ускорения процесса обмена мнениями в научной среде).
В жизни такие задачи встречаются в разных областях от торговли в Интернете до поисково-спасательных работ. В исследовании 60 участников играли в настольную игру «Риск», где ИИ предлагал им разного рода рекомендации:

«Риск» – это стратегическая игра, в которой игроки пытаются завоевать территории друг друга. Игра заканчивается, когда одному из игроков удается захватить всю доску. В рамках исследования играли группы по три человека, которым нужно было по очереди совершать три действия:

На первом этапе исследования, до самой игры, авторы статьи выясняли предпочитаемые стратегии игроков, чтобы персонализировать под них рекомендации. Всего составили восемь вариантов. Затем игроки заполняли опросник, на основании которого определялась стратегия, наиболее близкая каждому из них. После определения типа стратегии, игроки снова заполняли опросник, указывая, насколько согласны с результатами первого теста (насколько предложенный им вариант реально соответствует предпочтениям).
Потом участники эксперимента заполнили опросники на определение личностных черт, после чего их случайным образом распределили на четыре группы:

Затем участники, наконец, играли друг против друга. У каждого был монитор со стратегическими подсказками. Выбрав одну из подсказок, игроки могли посмотреть, к каким последствиям приведет следование ей: ИИ-агент симулировал для них развитие игры на два шага вперед, чтобы люди могли принять более взвешенное решение.

Более добросовестные люди (conscientiousness в тесте на определение черт личности) нашли рекомендации ассистента более полезными. При этом участники с более высоким показателем конформности (agreeableness) оценили нагрузку при работе с ассистентом как более высокую. Авторы предполагают, что эти участники проигрывали симуляции каждого из предложенных вариантов стратегии, чтобы сравнить их между собой, поэтому потратили больше времени.
Участники старшего возраста предпочитали систему, которая рекомендовала им один вариант, системе, которая рекомендовала несколько вариантов.
Персонализация стратегий положительно повлияла на восприятие рекомендательной системы как полезной и интеллектуальной. Участники давали более высокие оценки, когда система предлагала стратегии, наиболее близкие к их собственным предпочтениям. При этом, если участники находили среди предложенных стратегию, наиболее близкую к их предпочтениям, они также были более открыты к рассмотрению отличающихся вариантов.

Авторы статьи говорят о том, что персонализация рекомендаций позволит пользователям лучше воспринимать ИИ и быть более открытыми к его использованию. С этим сложно спорить: нам легче работать с чем-то, что заточено персонально под нас, и приятнее принимать что-то, что отражает наши представления о прекрасном.
Однако мне бы хотелось поднять вопрос о связи персонализации и искажений в восприятии. В моем телеграме есть пост о том, как ИИ наследует человеческие искажения и может усиливать их в процессе совместной работы с человеком. В частности, я там привожу пример исследования с врачами, которым дали преднамеренно неточную модель для помощи в постановке диагнозов. Участники эксперимента не только доверились ИИ и допускали ошибки в диагностике, но и продолжали совершать те же ошибки уже без ИИ. Так что это палка о двух концах.
Пожалуй, прозрачность при работе с ИИ, раскрытие его внутренних механизмов и источников данных – единственное надежное решение проблемы. Персонализация черного ящика сама по себе качество его работы вряд ли повысит.