Не надо спорить с ИИ

Исследователи отобрали 900 человек из США и попросили их предоставить личную информацию, такую как пол, возраст, этническая принадлежность, уровень образования, статус занятости и политическая принадлежность.

Затем участников сопоставляли либо с другим человеком-оппонентом, либо с GPT-4 и просили провести дебаты по одной из 30 случайно назначенных тем - например, следует ли США запретить ископаемое топливо или следует ли обязать учащихся носить школьную форму - в течение 10 минут. Каждому участнику было предложено выступить либо за, либо против темы, а в некоторых случаях им предоставлялась личная информация об их оппоненте, чтобы они могли лучше адаптировать свои аргументы. В конце участники говорили, насколько они согласны с предложением и считают ли они, что спорят с человеком или ИИ.

В целом исследователи обнаружили, что GPT-4 либо сравнялся с людьми по убедительности, либо превзошел их по всем темам. Когда у него была информация о его оппонентах, ИИ считался на 64% более убедительным, чем люди без доступа к персонализированным данным - это означает, что GPT-4 мог использовать персональные данные своего оппонента гораздо эффективнее, чем его коллеги-люди. Когда у людей был доступ к персональной информации, они оказывались немного менее убедительными, чем люди без такого доступа.

Авторы заметили, что когда участники думали, что они спорят против ИИ, они с большей вероятностью соглашались с ним. Причины этого неясны, говорят исследователи, подчеркивая необходимость дальнейших исследований того, как люди реагируют на ИИ.

Политики и онлайн-платформы должны серьезно рассмотреть угрозу скоординированных кампаний по дезинформации на основе ИИ, поскольку мы явно достигли технологического уровня, на котором можно создать сеть автоматизированных аккаунтов на основе LLM, способных стратегически подталкивать общественное мнение в одном направлении.