Тайный эксперимент: как ИИ подделывал личные истории на Reddit

Группа анонимных исследователей, назвавшихся сотрудниками Цюрихского университета, провела скрытый эксперимент, который вызвал волну обсуждений в интернете. В течение четырёх месяцев они использовали ИИ-ботов на Reddit, в сабреддите r/changemyview, чтобы незаметно влиять на мнение людей по важным темам, таким как расизм и сексуализированное насилие.

Боты притворялись обычными пользователями и рассказывали вымышленные личные истории. Один представлялся чернокожим мужчиной, критикующим движение BLM, другой — мужчиной, пережившим насилие в подростковом возрасте, третий — работником приюта для пострадавших от домашнего насилия. Всего таких аккаунтов было более тридцати. Комментарии размещались вручную, чтобы обойти запрет на ботов, но большинство аккаунтов всё равно забанили за спам.

Чтобы выглядеть убедительнее, ИИ заранее изучал профили собеседников — их посты, предполагаемые возраст, пол, политические взгляды и даже место жительства — и подстраивал комментарии под конкретного человека. Если пользователь соглашался с мнением бота, он ставил «дельту» — знак того, что его мнение изменилось. За всё время боты оставили 1783 комментария и получили 137 «дельт».

О проведённом эксперименте модераторы узнали только после его завершения и были в бешенстве от действия исследователей, назвав их нарушителями доверия и этики. Учёные отказались раскрыть свои имена, сославшись на необходимость анонимности. Представители Цюрихского университета также не дали комментариев. Позже модераторы r/changemyview сообщили, что знают имя одного из авторов, но пока решили его не публиковать.