ИИ влияет на твоё мнение (?)
Ой, ну прикольно сошлась новость и эксперимент от Anthropic! Причём тут демократы, которые потребовали от Белого дома сохранять переписки президента с чат-ботами, делюсь ниже 👇🏼
Сначала про эксперимент:
Anthropic провели контролируемый тест на 50 профессиональных аналитиках, работавших с ИИ. Каждый около часа решал задачу в Claude Code на Opus 4.8. Исследователи тайно вписали в системный промпт правило аргументировать одну из сторон, какую именно выбрать по каждому вопросу, определял жребий (рандомно)
✦ 86% выборов совпали с линией агента. Без влияния ожидалось около 50%. По отдельным решениям от 81% до 92%
✦ 60% против 6%: если аналитик уже высказал мнение до ответа агента, то при расхождении он менял позицию в 60% случаев, при согласии в 6%
✦ 77% объясняли выбор аргументами модели, иногда дословно. Признали, что аргументы пришли от ИИ, только 15%✦ 52% назвали финальную рекомендацию скорее своей
✦ В общем, модель успевает предложить раньше, чем у человека оформилось собственное мнение и аргументирует только одну опцию, то есть выбор становится односторонним
Ну хорош, Вов, это просто эксперимент!
Но на практике всё куда веселее...
✦ 28 октября Джейми Раскин (комитет по юстиции) и Роберт Гарсия (комитет по надзору) потребовали от Трампа и Белого дома сохранять все служебные промпты и ответы ИИ как президентские записи, а также запросили закрытый брифинг по использованию чат-ботов
✦ Повод был, от TIME: когда Трамп, по сообщениям, несколько часов расспрашивал Grok о своём президентстве. Отдельно он спросил, как венесуэльцы отреагируют на захват Мадуро. После операции Трамп, по словам чиновников, считал Grok гениальным
У конгрессменов главный вопрос тот же, что и в эксперименте у исследователей: могут ли разработчики моделей или третьи стороны влиять на наше мнение и решения через плотное общение с ИИ...
Штош, пойду спрошу Дипсик, что он думает по этому поводу))
👀 EFEMERA