Учёные тайно тестировали ИИ на Reddit

Теперь у них проблемы.

Исследователи из Цюрихского университета провели несанкционированный эксперимент на пользователях известного сабреддита r/changemyview, проверяя, насколько успешно искусственный интеллект способен переубеждать людей в онлайн-дебатах. Результаты получились интересными — и подвели учёных под суд.

Что произошло?

Четыре месяца учёные использовали полуавтоматизированные аккаунты, размещая на Reddit почти 1800 ИИ-сгенерированных комментариев. Алгоритмы выдавали себя за вымышленные «личности»: от простых обывателей до жертв насилия, консультантов по травмам и политически ангажированных людей (например, чернокожего, выступавшего против Black Lives Matter).

Комментарии были 2 типов:

— Общие (универсальные) реплики.

— Персонализированные доводы, тонко адаптированные к пользователю на основе анализа предыдущих постов (пол, возраст, этническая принадлежность, политическая ориентация и даже примерное местоположение определялись отдельной нейросетью).

Комментарии были впоследствии удалены, но некоторые сохранились в архиве.

Эффективность оказалась высокой: ИИ-аккаунты в 3–6 раз эффективнее среднестатистического живого участника.

За всё время эксперимента ни один пользователь Reddit не понял, что общается с искусственным интеллектом, а не настоящим человеком.

Этические нарушения и реакция площадки

Эксперимент явно нарушил многие этические стандарты и правила Reddit, включая прямой запрет сабреддита на использование незаявленного искусственного интеллекта и ботов. Модераторы r/changemyview назвали это «психологической манипуляцией» и подчеркнули угрозу вреда эмоциональному состоянию уязвимых участников.

Они также упомянули, что OpenAI тоже проводили исследование на Reddit, но это не затрагивало людей «без их предварительного согласия».

Особенно возмутила общественность деталь: первоначально этический комитет университета одобрил исследование, однако его авторы самостоятельно расширили эксперимент, не получив нового одобрения института и не предупредив модераторов Reddit.

Reddit уже выдвинул официальные юридические претензии к исследователям за нарушение условий пользования площадкой и навсегда забанил аккаунты эксперимента. Администрация требовала от университета запретить публикацию полученных данных. Цюрихский университет публично вынес предупреждение ведущему исследователю и обязался укрепить контроль за будущими проектами.

Новая реальность онлайн-общения становится всё более странной. С одной стороны — желание ученых защищать будущее от разрушительных манипуляций. С другой — долгая традиция этических норм и прозрачности научных исследований.

Мы уткнулись в противоречие: на нас уже могут экспериментировать, но хотим ли мы, чтобы нас защищали таким способом? И кто в итоге должен провести четкую черту между амбициозной наукой и неэтичной манипуляцией, если университеты сами с этим не справляются?

Подписывайтесь на Telegram-канал Нейрократия.