Исследователи создали мини-соцсеть с чат-ботами — те разбились на политические «коалиции» и повторили «токсичное» поведение обычных пользователей
Проект стал одним из первых, где генеративное моделирование использовали для проверки социальных теорий.
Источник: arXiv
- Исследователи Амстердамского университета решили изучить, могут ли изменения в дизайне соцсетей повлиять на обсуждения политики пользователями и их статус на платформе. Результатами они поделились на arXiv, куда учёные выкладывают препринты работ до рецензирования.
- Для этого они смоделировали профили американских избирателей, создав 500 чат-ботов на основе GPT-4o mini. Каждому из них прописали «личность» — возраст, пол, уровень дохода и образования, политические взгляды, религию и интересы. Боты могли публиковать посты, репостить чужие и подписываться на других «пользователей».
- В ходе экспериментов боты повторили «токсичные» паттерны, встречающиеся в реальных соцсетях: публиковали «ангажированный» контент и собирались в сообщества со схожими политическими взглядами. По мнению исследователей, ключевую роль в этом сыграли репосты — именно они помогают находить единомышленников и подкреплять личные убеждения.
- В целом, чем радикальнее выражались боты, тем проще им было получить репосты и подписчиков. Со временем появились и «инфлюенсеры»: на 10% ботов подписалось 75-80% всех «пользователей».
- Ситуация не изменилась и в последующих экспериментах, где исследователи меняли параметры — например, убрали ленту на основе алгоритмов и включили хронологический показ постов, понизили рейтинг «вирусного» контента и повысили для «малозаметного», а также скрыли количество подписчиков и описания пользователей в профилях.
- По мнению авторов, проблемы реальных соцсетей — не только в настройке алгоритмов. Чтобы снизить радикальный настрой пользователей и исправить «перекос» в показе контента, нужно полностью переосмыслить, как пользователи взаимодействуют друг с другом и как распространяются «эмоционально заряженные» посты.
- Исследователи подчеркнули, что у работы есть ограничения и её выводы нельзя считать окончательными. Они напомнили: ИИ способен частично копировать поведение человека, но остаётся по-прежнему «чёрным ящиком».
13 комментариев