ИИ начинает защищать людей от другого ИИ. Появилось сразу несколько инструментов обнаружения дипфейков
Еще год назад главной темой были генераторы дипфейков. Теперь быстро растет другой рынок – инструменты, которые умеют эти дипфейки обнаруживать. И это не случайно: по данным ряда отраслевых исследований, число мошеннических атак с использованием ИИ за последний год выросло в несколько раз. В ответ компании начали создавать ИИ, задача которого — распознавать другой ИИ. За последние дни сразу несколько компаний представили такие решения.
🔥 Еще больше полезной информации о технологиях и достижениях науки — в моем канале
Появление сразу трех решений показывает, что рынок детекторов дипфейков быстро переходит от концептов к реальным продуктам.
Halo: обнаружение дипфейков прямо во время видеозвонка
Стартап Scam.ai представил Halo — модель, которая определяет синтетическое видео в режиме реального времени.
Главная особенность — обработка происходит локально на устройстве с процессорами Qualcomm. Видео не отправляется в облако, что снижает риски утечки данных и позволяет анализировать изображение прямо во время разговора.
Пока массово недоступен. Halo анонсирован для ПК на процессорах Qualcomm Snapdragon X. На сайте можно добавиться в лист ожидания, отдельной загрузки для пользователей пока нет. Для корпоративных клиентов доступно обращение в отдел продаж.
SeniorSafe: защита пожилых людей от телефонных мошенников
Компания Sentien представила SeniorSafe — систему, созданную специально для защиты пожилых людей.
Сервис анализирует телефонные разговоры в реальном времени и пытается выявить признаки мошенничества. При обнаружении подозрительного сценария система может вмешаться, используя как ИИ, так и помощь человека.
Это один из первых примеров специализированных ИИ-систем, созданных не для генерации контента, а для защиты наиболее уязвимых пользователей.
Уже доступен пользователям, приложение можно скачать в Google Play, после установки оно становится приложением телефона по умолчанию и анализирует звонки в реальном времени. В ближайшие месяцы компания также планирует интеграции с мобильными операторами.
Zoom и BrightHire: борьба с дипфейками на собеседованиях
Еще одна область, где проблема становится все заметнее, — найм сотрудников.
Zoom и BrightHire объявили о совместной интеграции, которая позволяет прямо во время интервью обнаруживать признаки дипфейков, подмены личности и использования ИИ для прохождения собеседований.
Система анализирует как живые интервью, так и встречи, в которых кандидат пытается использовать генеративный ИИ или синтетическое видео.
Решение ориентировано на корпоративных клиентов. Функция встроена в платформу BrightHire для пользователей Zoom и доступна компаниям, использующим BrightHire в процессе найма. Отдельного приложения или публичной версии для обычных пользователей нет.
Почему это важно?
Все три новости появились почти одновременно, но объединяет их одна тенденция.
Еще недавно компании соревновались в том, кто создаст более реалистичные ИИ-модели. Теперь формируется новый рынок — ИИ, который распознает, блокирует и контролирует другой ИИ.
Похоже, в ближайшие годы способность доказать, что перед вами действительно человек, станет такой же важной технологией, как когда-то стали антивирусы для интернета.
Фактически начинается новая технологическая гонка. С одной стороны — все более качественные генераторы дипфейков. С другой — системы, которые пытаются отличить реального человека от цифровой подделки. И если первая волна ИИ была посвящена генерации контента, то следующая вполне может оказаться посвящена доверию.
Пожалуйста, поддержите меня, поставьте лайк! 🙏
Во время обучения новой модели Claude Fable 5 исследователи заметили странное поведение: модель периодически переходила на смесь символов, сокращений, жаргона и эмодзи. Для человека такой текст выглядит почти бессмысленным. Что происходит, что это говорит об ИИ и какой в этом есть риск?
Представьте приложение доставки еды, в котором нельзя ничего заказать. Звучит бессмысленно, но именно такие «дофаминовые приложения» начали набирать популярность в Южной Корее. О чем эта странная история и что она говорит о цифровых привычках современного человека?
Звучит как магия: достаточно посмотреть в камеру смартфона, и алгоритм сможет определить ваш пульс. Но самое интересное начинается дальше. Если камера способна «увидеть» работу сердца через кожу, то какие еще сигналы о состоянии организма можно извлечь из обычного видео? Ответ оказывается гораздо любопытнее, чем кажется.