Тесты банков для проверки личности «чрезвычайно уязвимы» для deepfake атак

Автоматизированные тесты "liveness tests", используемые банками и другими учреждениями для проверки личности пользователей, легко обмануть дипфейками, говорится в новом докладе.

Компания Sensity, специализирующаяся на выявлении атак с использованием сгенерированных искусственным интеллектом лиц, проверила уязвимость тестов идентификации, предоставляемых 10 ведущими поставщиками. Sensity использовала deepfakes для копирования лица цели на ID-карту для сканирования, а затем скопировала это же лицо на видеопоток потенциального злоумышленника, чтобы пройти liveness тесты.

Обычно при проверке подтверждения личности человека просят посмотреть в камеру на телефоне или ноутбуке, повернуть голову или улыбнуться, чтобы доказать, что это реальный человек, и сравнить его внешность с его ID с помощью системы распознавания лиц. В финансовом мире такие проверки часто известны как KYC (know your customer - прим. пер.) и могут быть частью более широкого процесса проверки, включающего проверку документов и счетов.

"Мы протестировали 10 решений и обнаружили, что девять из них крайне уязвимы к атакам deepfake", - сообщил The Verge главный операционный директор Sensity Франческо Кавалли.

"Появилось новое поколение ИИ, которые могут представлять серьезную угрозу для компаний", - говорит Кавалли. "Представьте, что можно сделать с поддельными аккаунтами, созданными с помощью этих методов. И никто не в состоянии их обнаружить".

Компания Sensity поделилась с The Verge информацией о корпоративных поставщиках, которых она тестировала, но попросила не публиковать их имена по юридическим причинам. Кавалли говорит, что Sensity подписала соглашения о неразглашении с некоторыми из поставщиков, а в других случаях опасается, что могла нарушить условия обслуживания компаний, тестируя их программное обеспечение таким образом.

Кавалли также говорит, что его разочаровала реакция поставщиков, которые, похоже, не посчитали эти атаки достойными внимания. "Мы сказали им: "Посмотрите, вы уязвимы для такого рода атак", а они ответили: "Нам все равно", - говорит он. "Мы решили опубликовать эту информацию, потому что считаем, что на корпоративном уровне и в целом общественность должна знать об этих угрозах".

Поставщики, которых протестировала компания Sensity, продают liveness тесты целому ряду клиентов, включая банки, приложения для знакомств и криптовалютные стартапы. Один из поставщиков даже использовался для проверки личности избирателей на недавних национальных выборах в Африке (из отчета Sensity не следует, что этот процесс был скомпрометирован deepfake'ами).

Кавалли говорит, что такие подделки личности представляют опасность в первую очередь для банковской системы, где они могут быть использованы для облегчения мошенничества. "Я могу создать аккаунт; я могу перевести незаконные деньги на цифровые банковские счета криптокошельков", - говорит Кавалли. "Или я могу попросить ипотеку, потому что сегодня компании онлайн-кредитования конкурируют друг с другом, чтобы выдавать кредиты как можно быстрее".

Это не первый случай, когда deepfakes представляют опасность для систем распознавания лиц. В основном они представляют угрозу, когда злоумышленник может перехватить видеозапись с телефона или камеры, что является относительно простой задачей. Однако системы распознавания лиц, использующие датчики глубины - такие как Face ID от Apple - не могут быть обмануты подобными атаками, поскольку они проверяют личность не только по внешнему виду, но и по физической форме лица человека.