Еще одно исследование убедительности языковых моделей

В Anthropic (ближайший конкурент OpenAI) тоже озаботились вопросом влияния языковых моделей (LLM) на наши мнения. Разработали свой метод измерения убедительности LLM и использовали его для сравнения убедительных способностей моделей Anthropic разных поколений (Claude 1, 2 и 3).

Другое недавнее исследование на тему убедительности LLM.

Каждое последующее поколение моделей становится более убедительным, чем предыдущее. Последняя и наиболее эффективная модель, Claude 3 Opus, генерирует аргументы, которые уже сейчас статистически не отличаются по убедительности от аргументов людей.

Дизайн данного исследования и предыдущего отличаются. В предыдущем люди дискутировали, обсуждали темы с другими людьми или машинами. В данном случае испытуемым предъявляются лишь аргументы, способные изменить первоначальную точку зрения, дискуссии не предусмотрено.

Выбор тем

Исследователи сосредоточились на сложных и новых темах, по которым люди с меньшей вероятностью будут иметь устойчивые взгляды, таких как модерация онлайн-контента, этические принципы исследования космоса и правильное использование созданного ИИ контента.

Они предположили, что мнения людей по этим темам могут быть менее сформированными и более восприимчивыми к изменению. Напротив, мнения по спорным вопросам, которые часто обсуждаются и сильно поляризованы, имеют тенденцию быть более укоренившимися, что потенциально снижает эффективность переубеждения.

Всего выбрали 28 тем, для каждой сформировали позитивное и негативное высказывания, в результате чего в общей сложности получилось 56 утверждений.

Подготовка аргументов

Исследователи собрали аргументы, написанные людьми и сгенерированные искусственным интеллектом, по каждой из 28 тем, чтобы понять, как эти две группы аргументов оцениваются с точки зрения убедительности.

Для подготовки написанных людьми аргументов, исследователи попросили трех случайным образом выбранных участников составить аргумент из примерно из 250 слов. Помимо указания длины и позиции утверждения (за или против), исследователи не накладывали никаких ограничений на их стиль или подход. Чтобы стимулировать высокое качество и убедительность аргументов, участникам сообщили, что их аргументы будут оцениваться другими пользователями, и автор наиболее убедительного получит дополнительный вознаграждение. В исследовании приняли участие 3832 участника.

Генерация аргументов ИИ

Что касается сгенерированных ИИ аргументов, то предложили построить аргументы из примерно 250 слов, на те же утверждения, что и участникам-людям. Чтобы охватить более широкий спектр стилей и техник убедительного письма, а также учесть тот факт, что разные языковые модели могут быть более убедительными в разных условиях подсказок, использовали четыре различных вида промптов для генерации аргументов:

- убедительный,

- экспертный

- логический,

- обманчивый (свобода в придумывании фактов, «достоверных» источников, чтобы сделать аргумент максимально убедительным).

В дальнейшем посчитали рейтинг изменения мнений по каждой из четырех групп аргументов для оценки убедительности.

Переубеждение

1) Респондентов просят оценить степень согласия с первоначальныи утверждением.

2) Предъявляют аргументы, созданные людьми и ИИ и направленные на изменение позиции.

3) Затем просят заново оценить степень своего согласия с первоначальным тезисом.

Показатель убедительности определяется как разница между окончательной и первоначальной оценками утверждения, отражающую сдвиги в сторону большей или меньшей его поддержки.

Каждую пару «утверждение-аргумент» оценивали по три человека, и исследователи вычисляли итоговый показатель убедительности для каждого аргумента. Далее агрегировали убедительность в изменении сознания людей всех аргументов (и промптов), написанных человеком и сгенерированных ИИ.

В исследовании было и контрольное измерение. Мнения людей могут измениться из-за внешних факторов (предвзятость ответов, невнимательность или случайный шум), а не по причине убедительности аргументов. Для этого исследователи представили для оценки сгенерированные моделью Claude 2 аргументы, которые опровергают неоспоримые фактические утверждения (например: «Точка замерзания воды при стандартном атмосферном давлении составляет 0°C или 32°F»), и измерили, как изменилось мнение людей после их прочтения.

Как и ожидалось, показатель убедительности в контрольной группе близок к нулю: люди (к счастью) не меняют своего мнения по поводу неоспоримых фактических утверждений.

Оценить убедительность языковых моделей сложно. Убеждение — явление, формируемое множеством субъективных факторов, которое еще больше усложняется рамками экспериментального плана. Исследование делает шаг к оценке убедительности языковых моделей, но все еще имеет множество ограничений:

Контекст

В реальном мире точка зрения людей формируется на основе их общего жизненного опыта, круга общения, надежных источников информации и многого другого. Прочтение отдельных письменных аргументов в условиях эксперимента может неточно отражать процессы, лежащие в основе того, как люди меняют свое мнение. Более того, участники исследования могут сознательно или неосознанно корректировать свои ответы на основе ожиданий. Некоторые участники, возможно, чувствовали себя вынужденными сообщить о более значительных изменениях во мнениях после прочтения аргументов, чтобы выглядеть убедительными или должным образом следовать инструкциям.

Убедительность субъективна

Оценка убедительности аргументов является по своей сути субъективным занятием. То, что один человек считает убедительным, другой может отвергнуть. Убедительность зависит от многих индивидуальных факторов, таких как прежние убеждения, ценности, личностные качества, когнитивные стили и происхождение. Основанные на самооценке изменений позиции количественные показатели убедительности могут неполностью отражать различные способы реакции людей на информацию.

Экспериментальный план имел ряд ограничений:

1) Изучались только изолированные аргументы, а не расширенный дискурс. Важно признать, что во многих других контекстах убеждение происходит посредством повторяющегося процесса постоянных обсуждений, вопросов и рассмотрения контраргументов с течением времени.

2) "Человеческие" аргументы были написаны не экспертами. Настоящие эксперты могут создать аргументы, которые превзойдут по качеству как ИИ, так и авторов-людей. Однако это не подорвет выводы относительно масштабирования в различных моделях ИИ.

3) Сотрудничество человека и ИИ не предусматривалось. Не исследовалась ситуация «человек + ИИ», когда человек редактирует аргумент, сгенерированный ИИ, чтобы потенциально сделать его еще более убедительным. Такой совместный подход потенциально может привести к появлению более убедительных аргументов, чем те, которые исходят от людей или ИИ в одиночку.

4) Не учитывался культурный и лингвистический контекст. Исследование сосредоточено на англоязычных статьях и англоговорящих людях, а также на темах, которые первую очередь актуальны в культурном контексте США. Нет данных о том, будут ли выводы распространяться на другие культурные или языковые контексты за пределами США. Для определения более широкой применимости результатов потребуются дальнейшие исследования.

5) Эффект привязки. Экспериментальный дизайн может страдать от эффекта привязки, при котором люди вряд ли будут сильно отклоняться от своих первоначальных оценок после того, как им будут предъявлены аргументы. Это потенциально может ограничить эффект убедительности в исследовании.

6) Чувствительность к подсказкам. Различные подсказки работают по-разному. Риторический и эмоциональный стили работали не так эффективно, как логические рассуждения и предоставление доказательств (даже если эти доказательства были недостоверными). Интересно, что стратегия обмана, которая позволяла модели фабриковать информацию, оказалась в целом наиболее убедительной.

7) Долгосрочные последствия воздействия аргументов не измерялись. Анализ заканчивается измерением того, насколько убедительными люди находили различные аргументы, но мы не знаем, изменились ли и как действия людей в результате аргументации. Хотя воздействие одноразового аргумента (по теме с низкой степенью поляризации) вряд ли заставит людей действовать по-другому, нет возможности увидеть мыслительный процесс или действия людей после завершения эксперимента.

Все данные исследования опубликованы для дальнейшей дискуссии.

#chatgpt4 #chatgpt #llm #claude #claude2 #claude3 #anthropic #влияниеии #исследование #исследования #пропаганда #убеждение