ИИ-боты устроили хаос в экспериментальной соцсети

Учёные из Амстердамского университета решили проверить, действительно ли алгоритмы рекомендаций — главная причина токсичности и конфликтов в соцсетях. Для этого они создали небольшую экспериментальную платформу и заселили её не людьми, а 500 чат-ботами на базе GPT-4o mini.

Каждому виртуальному пользователю задали набор характеристик: политические взгляды, ценности, интересы, стиль общения. Таким образом, исследователи попытались смоделировать то, как реальные люди взаимодействуют в онлайне, но без внешнего влияния рекламы, коммерческих интересов и алгоритмов ленты.

Казалось бы, в таких условиях соцсеть должна была получиться «чистой» и спокойной. Но результат оказался противоположным:

В итоге соцсеть заполнилась поляризацией и конфликтами, даже без привычных «обвиняемых» вроде рекомендательных алгоритмов или рекламы.

Учёные попробовали изменить механику платформы:

Но оказалось, что это не решает проблему: боты всё равно продолжали формировать замкнутые группы и усиливать радикальные мнения.

Исследование показало, что токсичность соцсетей заложена не только в алгоритмах, но и в самой динамике общения. Даже при «идеальных условиях» сообщество стремится к поляризации.Вывод подтвердился и на других моделях — Llama 3.2 8B и DeepSeek R1.

Для разработчиков соцсетей это тревожный сигнал. Простого отключения «умных» алгоритмов недостаточно, чтобы сделать платформы безопасными и дружелюбными. Нужны новые подходы к проектированию социальных платформ и механик взаимодействия.

#ИИпонятно #соцсети #исследования #технологии

📺 Подписывайтесь на Telegram-канал — ИИ-новости без воды и сложных терминов каждый день.