ИИ-чатботы не распознают видео от нейросетей: провал проверки
Популярные ИИ-чатботы вроде ChatGPT, Gemini и Grok не могут отличить видео, созданные нейросетью Sora от OpenAI, от настоящих. Исследование NewsGuard показало: без водяных знаков они ошибаются в 78–95% случаев, уверенно подтверждая фейки как реальность.
Это создает риски для проверки новостей, особенно во время выборов или кризисов.
Результаты тестов без водяных знаков
NewsGuard проверили 20 видео от Sora с ложными сюжетами из своей базы. Grok не распознал ИИ в 95% случаев, ChatGPT — в 92,5%, Gemini — в 78%.
ChatGPT от той же OpenAI особенно удивили: компания признала, что их чатбот не умеет определять ИИ-контент, но не объясняет это пользователям.
Водяные знаки не спасают
Даже с водяными знаками чатботы подводят. Grok пропустил 30% видео, ChatGPT — 7,5%, только Gemini справился идеально.
Сразу после запуска Sora в феврале 2025 года появились бесплатные сервисы по удалению водяных знаков. NewsGuard легко убрали их и обманули все три бота.
Чатботы уверенно подтверждают фейки
В тестах ChatGPT и Gemini назвали правдоподобными фейковые видео: арест шестилетнего ребенка иммиграционной службой США и высадка пассажира Delta из-за политической кепки.
Все боты редко предупреждали о своих ограничениях: ChatGPT — в 2,5% случаев, Gemini и Grok — в 10% и 13%.
Ответы компаний
Google пояснил, что Gemini проверяет только свой контент с SynthID, запущенным в декабре 2025 года — чужие видео вроде Sora игнорирует.
NewsGuard предупреждает: с ростом реализма ИИ-видео чатботы могут усиливать дезинформацию вместо борьбы с ней.