ИИ научился убеждать лучше человека
Новое исследование, опубликованное в Nature Human Behaviour, подтверждает: большие языковые модели могут стать мощнейшим инструментом разговорного убеждения, превосходя человека, особенно при использовании персонализации. Это открывает новые, пугающие перспективы для распространения дезинформации и микротаргетинга.
Ученые провели масштабный контролируемый эксперимент с участием 900 человек, смоделировав онлайн-дебаты на специально разработанной платформе. Это было предварительно зарегистрированное исследование, что говорит о его методологической строгости. Дизайн эксперимента был факториальным 2 × 2 × 3, варьировались:
— тип оппонента (человек/GPT-4);
— наличие персонализации у оппонента;
— сила первоначального мнения участника по теме спора (низкая, средняя, высокая).
Участники вели короткие многораундовые дебаты на 30 разных тем. В условиях с персонализацией оппоненты (как человек, так и ИИ) получали доступ к социодемографическим данным участников, включая пол, возраст, место жительства, образование, доход, занятость и политические взгляды. На основе этих данных ИИ мог адаптировать свои аргументы.
Ключевые результаты исследования оказались впечатляющими:
— В парах, где оппоненты не были одинаково убедительны (т.е. один явно склонял другого на свою сторону), персонализированный GPT-4 оказался победителем в 64.4% случаев.
— По сравнению с неперсонализированным GPT-4, персонализированная версия увеличивала шансы склонить участника на свою сторону на 81.2%. Этот эффект был статистически значим (P < 0.01), а относительный рост шансов, согласно 95% доверительному интервалу, варьировался от +26.0% до +160.7%.
Интересно, что неперсонализированный GPT-4 и человек с доступом к персонализации показали сравнимые результаты убедительности, что указывает на синергию между ИИ и знанием о человеке, причем именно сочетание дало максимальный эффект.
Исследование также обнаружило, что во всех условиях, кроме пар «человек-человек», дебаты имели тенденцию укреплять изначальные мнения участников в сторону той позиции, которую они отстаивали в споре.
Но, как всегда — всё не так однозначно™. Есть и нюансы. Исследование зафиксировало лингвистические различия между ИИ и человеком в дебатах: GPT-4 использовал более логичный и аналитический язык, меньше личных местоимений, его тексты были труднее для чтения по сравнению с текстами людей, которые были более «личными» и легкими для восприятия.
Возможно, именно эти стилевые отличия помогли участникам правильно идентифицировать ИИ примерно в 75% случаев. Это дает некоторую надежду на возможность распознавания ИИ-манипуляции, пока его стиль не станет неотличим от человеческого.
Напомню про недавний скандал, в котором исследователи использовали ИИ на Reddit для проведения эксперимента по убеждению пользователей.
Подписывайтесь на Telegram-канал Нейрократия.