ИИ на Reddit: как учёные попытались менять мнения пользователей и вызвали скандал
В последние годы искусственный интеллект всё активнее внедряется в онлайн-коммуникации, и учёные стремятся понять, как ИИ влияет на мнения людей в интернете. Недавний эксперимент исследователей из Цюрихского университета вызвал бурную реакцию: они тайно запустили чат-ботов на платформе Reddit, чтобы проверить, способны ли ИИ-аргументы менять точку зрения пользователей. Однако их метод вызвал серьёзные этические и юридические вопросы — как со стороны сообщества, так и со стороны самой платформы.
Что произошло
Группа исследователей из Цюрихского университета провела скрытый эксперимент на сабреддите r/changemyview (около 3,8 млн участников), разместив более 1 700 комментариев, сгенерированных чат-ботами на базе ИИ, выдававшими себя за реальных пользователей (например, жертву насилия или представителя определённой расы).
Как это работало
- Были созданы 34 аккаунта, из которых 13 (по словам исследователей) продолжили активность примерно 10–15 постов в день.
- Чат‑боты анализировали историю пользователей, выявляя их демографию и политические предубеждения, чтобы персонализировать аргументацию.
Почему вызывает проблему
- Исследователи не получили согласия пользователей и не уведомили модераторов, нарушив правила площадки и этику научных исследований .
- Модераторы риторично назвали это «психологической манипуляцией» и подали жалобу на университет.
- Reddit заявил, что эксперимент был «недопустимо неэтичным и юридически сомнительным», и грозит юридическими исками.
Реакция исследователей и университета
- Представитель университета сказал, что этический комитет заранее предупреждал о необходимости информирования участников и соблюдения правил, но это носило рекомендательный характер; ответственность лежит на исследователях.
- Исследователи признали, что не могли получить согласие заранее, но настаивали на том, что это необходимо для достоверности — «испытывать в условиях, когда люди не знают о попытке убеждения».
- Университет решил не публиковать результаты, а комитет по этике ужесточит процедуры и будет взаимодействовать с такими форумами в дальнейшем.
Что обсуждают эксперты
- Специалисты по этике подчёркивают: обман без согласия — серьёзное нарушение принципа автономии участников, даже если велика общественная значимость.
- Сомневаются, допустимо ли применять такие методики вообще, и опасаются разрушения доверия к площадкам вроде r/changemyview.