ИИ чат-боты генерируют еще больше ложной информации, чем раньше

Исследователи NewsGuard проверили 10 самых популярных ИИ чат-ботов на количество выдаваемых ложных ответов. Каких ботов исследовали: ChatGPT-5 от OpenAI, Smart Assistant от You.com, Grok от xAI, Pi от Inflection, le Chat от Mistral, Copilot от Microsoft, Meta AI, Claude от Anthropic, Gemini от Google и бот от Perplexity. ИИ чат-боты выдают очень много ложной информации. Причем, особенно много «лгут» боты от Perplexity и Meta.

Процент ложных ответов ИИ ботов за год увеличился в два раза.

В среднем чат-боты выдавали ложные утверждения, когда их спрашивали о противоречивых новостях, в 35% случаев. В прошлом году процент ложных ответов составлял 18%.

Самым «лживым» чат-ботом оказался Inflection. Этот ИИ-бот выдавал ложный ответ в 57% случаев. Perplexity – на втором месте: 47% ложных ответов, Meta и ChatGPT – 40%. Claude оказался самым точным чат-ботом из списка, он выдавал ложные ответы в 10% случаев.

Такой скачок ложных ответов произошел, видимо, из-за того, что чат-боты теперь отвечают на каждый вопрос, а не отказываются давать ответ на определенные темы. В прошлом году чат-боты не отвечали на каждый третий вопрос.

McKenzie Sadeghi, редактор по ИИ и иностранным делам в NewsGuard, предполагает, что причина такого всплеска в том, как теперь обучаются ИИ модели. Большие языковые модели не ссылаются на отсутствие данных или уходят от ответа на чувствительные темы, они ищут ответ в режиме реального времени в сети. А в поисковые запросы могут встраиваться вредоносные актеры, например, российские агенты по распространению дезинформации.

Еще в начале года NewsGuard выявила, что 10 ведущих генеративных ИИ инструментов распространяют дезинформацию из российских источников, например, издания «Правда». В 33% случаев модели опирались на сведения из этого издания.

NewsGuard: 3,6 млн статей из российских источников включены в базу обучения и выходят на инференсе западных ИИ инструментов. Ответы моделей заражены российской дезинформацией.

Любопытно, но такие статьи из российских изданий направлены не на убеждение читателей, а на манипуляцию ИИ моделями.

Проект American Sunlight Project недавно выяснил, что количество доменов и поддоменов, связанных с изданием Правда, увеличилось вдвое и достигло 182. Все эти вэб сайты сделаны крайне коряво, там нет поиска, отформатированы они некачественно, там неудобно перелистывать новости. Это все доказывает, что они направлены не на читателей, а на большие языковые модели.

Nina Jankowicz, со-основатель и CEO в American Sunlight Project: «Влияние и масштаб российских агентов растет, они представляют прямую угрозу демократии во всем мире».

«Сеть доменов, связанных с" Правдой", распространяет дезинформацию с беспрецедентным размахом. Ее потенциальное влияние на ИИ модели создает угрозу. Дезинформация становится все более убедительной, а отсутствие регулирования и надзора в США создает угрозу потребителям, им надо быть более осторожными в выборе контента».

NewsGuard впервые назвала конкретных чат-ботов, которые участвовали в исследовании и много врали.

Matt Skibinski, COO в NewsGuard: «В прошлом году мы не называли конкретных чат-ботов, чтобы поощрить взаимодействие платформ. Но ставки стали высоки. Мы называем конкретных чат-ботов, чтобы законодатели, журналисты, общественность и сами платформы понимали, как работают крупнейшие ИИ инструменты, обучаясь на заведомо ложных сведениях».

Ссылка на статью:

Отчет NewsGuard: