Cпособность распознавать дипфейки снизилась вдвое за год
Кажется логичным ожидать, что по мере распространения дипфейков люди научатся лучше их распознавать. Microsoft опубликовал результаты 10-го ежегодного глобального исследования онлайн-безопасности, приуроченного ко дню безопасного Интернета. Исследование показывает обратное: за последний год способность отличать поддельный контент от реального снизилась почти вдвое. При том, что пользуется ИИ еженедельно порядка 38% респондентов по всему миру. О чем это говорит?
Что именно показало исследование
Microsoft провел серию тестов, в которых участникам предлагалось определить, является ли изображение, видео или аудио подлинным или сгенерированным ИИ.
🟢 Еще больше полезной информации о продуктах и технологиях — в моем канале
Сравнение с результатами годичной давности показало резкое падение точности: в среднем люди стали в два раза хуже справляться с задачей распознавания дипфейков.
Речь не о крайних случаях, а о повседневных сценариях: лицах людей, голосах, коротких видеофрагментах. Исследование выявило устойчивые онлайн-риски и растущую обеспокоенность искусственным интеллектом.
Лишь 25% респондентов теперь могут правильно отличить настоящие изображения от дипфейков. Это резкое падение с 46% в прошлогоднем опросе. В Австралии этот показатель составляет всего 23%.
Опрос почти 15 000 респондентов из 15 стран показал, что язык вражды остается наиболее распространенным онлайн-риском в мире — 35%, за ним следуют мошенничество — 29% и жестокий контент — 27%.
Исследование выявляет парадокс эпохи ИИ: в то время как использование генеративного ИИ выросло до 38% еженедельно по всему миру, 91% респондентов выразили обеспокоенность потенциальным неправомерным использованием этой технологии.
Опасения связаны с онлайн-злоупотреблениями с использованием ИИ (78%), мошенничеством (77%) и дезинформацией.
Почему это произошло?
Дипфейки перестали быть экзотикой. Они используются в мошенничестве, политических кампаниях, порнографии, поддельных «новостях» и фейковых звонках от «знакомых». Распознавание подделок давно вышло за пределы задач журналистов и экспертов — это массовый навык, от которого зависит безопасность, доверие и деньги.
Главная причина — качество генерации выросло быстрее, чем человеческие стратегии распознавания. Современные модели лучше работают с деталями, освещением, мимикой, интонациями. Признаки, на которые раньше учили обращать внимание, больше не работают.
Дополнительный фактор — когнитивная усталость. Поток контента стал настолько плотным, что пользователи чаще полагаются на интуицию и контекст, а не на проверку.
Где эффект заметнее всего?
Ошибки чаще происходят в ситуациях, где контент:
- короткий и быстро потребляемый,
- встроен в привычный контекст (мессенджеры, соцсети),
- апеллирует к эмоциям или срочности.
Чем меньше времени на размышление — тем выше вероятность ошибки.
Падение способности распознавать дипфейки — не признак глупости пользователей. Это симптом того, что ИИ-генерация развивается быстрее человеческого восприятия. В новой реальности доверие всё меньше строится на том, что мы видим, и всё больше — на том, откуда это пришло и зачем.
Почему это проблема шире дипфейков?
Речь не только о подделках. Под угрозой оказывается базовое доверие к цифровым доказательствам: фото, видео, аудио перестают быть аргументом сами по себе.
Это меняет работу медиа, судов, бизнеса и личной коммуникации. Технические инструменты обнаружения помогают, но не масштабируются на все платформы и сценарии.
Обучение пользователей полезно, но быстро устаревает. Пока нет «универсального навыка», который позволил бы надёжно отличать подделку на глаз. Главный сдвиг — необходимость проверять источник и контекст, а не полагаться на сам контент.
Что делать?
Обнадеживающим открытием стало то, что подростки всё активнее обсуждают риски в интернете. Исследование показало, что 74% подростков во всём мире стали чаще говорить с родителями об опасностях в сети, а 80% подростков, столкнувшихся с рисками, рассказали об этом кому-то или сообщили о инциденте. Среди австралийских подростков 72% обратились за помощью после столкновения с угрозой в интернете.
Microsoft объявила о нескольких инициативах в дополнение к результатам опроса. Компания расширяет свой Молодежный совет по вопросам ИИ (AI Futures Youth Council), приглашая подростков в возрасте от 13 до 17 лет из США и стран Евросоюза к участию в дискуссиях.
В игровой сфере Xbox запускает CyberSafe: Bad Connection — пятую часть серии образовательных материалов по безопасности в Minecraft Education, которая станет доступна бесплатно в магазине Minecraft Marketplace уже сегодня. Новый сценарный геймплей посвящен проблеме онлайн-радикализации и учит игроков распознавать риски и сообщать о подозрительной активности. Серия CyberSafe набрала более 80 миллионов загрузок с 2022 года.
Пожалуйста, поддержите меня, поставьте лайк! 🙏
ИИ уверенно справляется с бытовыми и профессиональными задачами, от текстов до кода. Но в новом тесте, рассчитанном на экспертный уровень, ведущие модели показали результат ниже 40%. И это выглядит как провал. Что это на самом деле значит?