{"id":11244,"title":"\u0420\u0430\u0437\u0431\u0438\u0440\u0430\u0435\u043c\u0441\u044f, \u043b\u043e\u043f\u043d\u0435\u0442 \u043b\u0438 \u0440\u044b\u043d\u043e\u043a \u0418\u0422 \r\n ","url":"\/redirect?component=advertising&id=11244&url=https:\/\/vc.ru\/promo\/353949-razbiraemsya-lopnet-li-rynok-it&placeBit=1&hash=d208029863fe4571a57bd41458f0ed509048b262392aaffae456a4ea928923a5","isPaidAndBannersEnabled":false}

Как работает Face ID в iPhone X: алгоритм на Python

В этой статье разобран принцип работы технологии.

Изображение лица пользователя снимают с помощью инфракрасной камеры, которая более устойчива к изменениям света и цвета окружающей среды. Используя глубокое обучение, смартфон способен распознать лицо пользователя в мельчайших деталях, тем самым «узнавая» владельца каждый раз, когда тот подхватывает свой телефон. Удивительно, но Apple заявила, что этот метод даже безопаснее, чем Touch ID: частота ошибок 1 к 1 млн.

В этой статье разобран принцип алгоритма, подобного Face ID, с использованием Keras. Также представлены некоторые окончательные наработки, созданные с помощью Kinect.

Понимание Face ID

Нейронные сети, на которых основана технология Face ID, не просто выполняют классификацию.

Первый шаг — анализ принципа работы Face ID на iPhone X.

Техническая документация может помочь нам в этом. С Touch ID пользователь должен был сначала зарегистрировать свои отпечатки, несколько раз нажав на датчик. После 10–15 различных касаний смартфон завершает регистрацию.

Аналогично с Face ID: пользователь должен зарегистрировать своё лицо. Процесс довольно прост: пользователь просто смотрит на телефон так, как делает это ежедневно, а затем медленно поворачивает голову по кругу, тем самым регистрируя лицо в разных позах.

На этом регистрация заканчивается, и телефон готов к разблокировке. Эта невероятно быстрая процедура регистрации может рассказать многое об основных алгоритмах обучения. Например, нейронные сети, на которых основана технология Face ID, не просто выполняют классификацию.

Выполнение классификации для нейронной сети означает умение предсказывать, является ли лицо, которое она «видит» сейчас, лицом пользователя. Таким образом, она должна использовать некоторые тренировочные данные для прогнозирования «истинного» или «ложного», но в отличие от многих других случаев применения глубокого обучения, здесь этот подход не будет работать.

Во-первых, сеть должна тренироваться с нуля, используя новые данные, полученные с лица пользователя. Это потребовало бы много времени, энергии и множество данных разных лиц (не являющимися лицом пользователя), чтобы иметь отрицательные примеры.

Кроме того, этот метод не позволит Apple тренировать более сложную сеть в офлайне, то есть в своих лабораториях, а затем отправлять её уже обученной и готовой к использованию в своих телефонах.

Считается, что Face ID основан на сиамской свёрточной нейронной сети, которая обучается в офлайне, чтобы отображать лица в низкоразмерном скрытом пространстве, сформированном для максимизации различия между лицами разных людей, используя контрастную потерю. Вы получаете архитектуру, способную делать однократное обучение, как упоминалось в Keynote.

От лица к числам

Сиамская нейронная сеть в основном состоит из двух идентичных нейронных сетей, которые также разделяют все веса. Эта архитектура может научиться различать расстояния между конкретными данными, такими как изображения.

Идея состоит в том, что вы передаёте пары данных через сиамские сети (или просто передаёте данные в два разных шага через одну и ту же сеть), сеть отображает их в низкоразмерных характеристиках пространства, как n-мерный массив, а затем вы обучаете сеть, чтобы сделать такое сопоставление, что данные точек из разных классов были как можно дальше, в то время как данные точек из одного и того же класса находились как можно ближе.

В конечном итоге сеть научится извлекать наиболее значимые функции из данных и сжимать их в массив, создавая изображение. Чтобы понимать это, представьте, как бы вы описали породы собак с помощью небольшого вектора так, что похожие собаки имели бы почти схожие векторы.

Вероятно, один номер вы использовали бы для кодирования цвета собаки, другой — для обозначения размера собаки, третий — для длины шерсти и так далее. Таким образом, собаки, похожие друг на друга, будут иметь схожие векторы. Сиамская нейронная сеть может делать это за вас, подобно тому, как это делает автоэнкодер.

Используя эту технологию, необходимо большое количество лиц, чтобы обучить такую архитектуру распознавать наиболее схожие. Имея правильный бюджет и вычислительную мощность (как это делает Apple), можно также использовать более сложные примеры, чтобы сделать сеть устойчивой к таким случаям, как близнецы, маски и так далее.

В чём заключительное преимущество такого подхода? В том, что у вас, наконец, есть модель plug and play, которая может распознавать различных пользователей без какой-либо дополнительной подготовки, а просто вычислять нахождение лица пользователя на скрытой карте лиц, образовавшейся после настройки Face ID.

Кроме того, Face ID способен адаптироваться к изменениям в вашей внешности: как к внезапным (например, очки, шапка, макияж), так и к «постепенным» (растущие волосы). Это делается путём добавления опорных векторов лица, вычисленных на основе вашего нового внешнего вида, на карту.

Реализация Face ID с помощью Keras

Что касается всех проектов машинного обучения, первое, что нам нужно, — данные. Создание собственного набора данных потребует времени и сотрудничества многих людей, поэтому с этим могут возникнуть сложности.

Существует веб-сайт с набором данных RGB-D лиц. Он состоит из серии RGB-D-фотографий людей, стоящих в разных позах и делающих разные выражения лица, как это произошло бы в случае использования iPhone X. Чтобы увидеть окончательную реализацию, вот ссылка на GitHub.

Создаётся свёрточная сеть на основе архитектуры SqueezeNet. В качестве входных данных сеть принимает как RGBD-изображения пар лиц, так и четырёхканальные изображения, и выводит различия между двумя вложениями. Сеть обучается со значительной потерей, которая минимизирует различие между изображениями одного и того же человека и максимизирует различие между изображениями разных лиц.

После обучения сеть способна конвертировать лица в 128-мерные массивы, так что фотографии одного и того же человека группируются вместе. Это означает, что для разблокировки устройства нейронная сеть просто вычисляет различие между снимком, который требуется во время разблокировки, с изображениями, сохранившимися на этапе регистрации. Если различие подходит под определённое значение, устройство разблокируется.

Используется алгоритм t-SNE. Каждый цвет соответствует какому-либо человеку: как вы можете заметить, сеть научилась группировать эти фотографии довольно плотно. Интересный график также возникает при использовании алгоритма PCA для уменьшения размерности данных.

Эксперимент

Теперь попытаемся увидеть, как работает эта модель, имитируя обычный цикл Face ID. Первым делом зарегистрируем лицо. Затем проведём разблокировку как от лица пользователя, так и от других людей, которые не должны разблокировать устройство. Как упоминалось ранее, различие между лицом, которые «видит» телефон, и лицом зарегистрированным имеет определённый порог.

Начнём с регистрации. Возьмём серию фотографий одного и того же человека из набора данных и смоделируем фазу регистрации. Теперь устройство вычисляет вложения для каждой из этих поз и сохраняет их локально.

Давайте посмотрим, что произойдёт, если один и тот же пользователь попытается разблокировать устройство. Различные позы и выражения лица одного и того же пользователя достигают низкого различия, в среднем около 0,30.

С другой стороны, изображения от разных людей получают среднее различие — около 1,1.

Таким образом, значение порога, установленное примерно в 0,4, должно быть достаточным для предотвращения разблокировки телефона незнакомцами.

В этом посте я показал, как реализовать проверочную концепцию механики разблокировки Face ID, основанную на встраивании граней и сиамских свёрточных сетях. Я надеюсь, что информация была для вас полезной. Вы можете найти здесь весь относительный код Python.

Больше разборов новых технологий — в Telegram-канале.

0
5 комментариев
Популярные
По порядку
Dmitry Frolov

Рушан, приветствую!
Неплохо было бы указать, что статья представляет собой перевод публикации Norman Di Palo "How I implemented iPhone X’s FaceID using Deep Learning in Python" 2018 года https://towardsdatascience.com/how-i-implemented-iphone-xs-faceid-using-deep-learning-in-python-d5dbaa128e1d 
Также местами перевод не совсем удачен, например, "сеть обучается со значительной потерей" (речь идет о специальной функции потерь), или, например, "здесь весь относительный код Python" - здесь "relative" подразумевался в значении "соответствующий", разумеется.
А так туториал классный.

Ответить
6
Развернуть ветку
Андрей

Ничего не понятно, но очень интересно

Ответить
1
Развернуть ветку
Serge Sokolov
Ответить
0
Развернуть ветку
Mark Quincy

Отличная статья! А есть ещё что нибудь по сиамским сетям?

Ответить
0
Развернуть ветку
Vladislav Donets

А зачем сети фоточки, если у iPhone камера глубины которая работает с «3D» моделью лица?

Ответить
–1
Развернуть ветку
Читать все 5 комментариев
С днём рождения, NTA!
Три простых правила для закрепления привычек

Чуть больше года назад я решил первый раз в своей жизни закрепить полезные привычки. Полный мотивации и намерений изменить свою жизнь, каждый день я вставал в 6 утра, занимался спортом, читал книги по 30 минут и даже начал медитировать.

Субботний самопиар на vc.ru

Делимся в комментах ссылками на свои проекты и скидками для читателей vc.ru!

От техподдержки через переводчик до главного канала продаж

Как изменился «AliExpress Россия»: рассказывают «старички» маркетплейса.

Просмотр сетки ордеров
Биржевой стакан в мобильном приложении БКС Мир инвестиций
Я запущу 12 стартапов за 12 месяцев

Привет! Меня зовут Коля и в этом году я решил принять участие в популярном челлендже: запустить 12 проектов за 12 месяцев.

Винни-Пух и всё: герой детских рассказов больше не принадлежит Disney

Объясняем на динозаврах, стоит ли переживать за известную анимационную студию.

Иллюстрация к первому изданию книги Алана Милна. Автор: Эрнест Хауэрд Шепард
На Wildberries стало невыгодно работать: 2500 селлеров, сотни ПВЗ и даже курьеры готовят бунт на корабле WB

Самое время Еноту сказать «А я говорил».

Доходы Yota от роуминга выросли в 1,6 раз

Ковидные ограничения стали испытанием для мобильных операторов, которые недополучили доход от роуминга в 2020 году. В Yota в 2020 году выручка от роуминга сократилась в два раза по сравнению с 2019 годом.

Я запарился искать цветовые палитры и создал Palitra App

Есть такая проблема — найти цветовую палитру. Да, существует множество сайтов с готовыми цветовыми палитрами, но они предлагают ограниченный набор палитр и у них нет отсылки или референса, вдохновления.

null