Кризис доверия: почему алгоритм должен, но не может заменить человека

Основатель автоматической системы подтверждения личности Check U Артём Субботин о развитии технологий идентификации пользователей.

«На борту исчезнувшего самолета компании Malaysia Airlines оказалось два пассажира, зарегистрированных на рейс по чужим паспортам», — писали СМИ несколько лет назад.

Возможно ли пройти пограничный контроль по чужим документам? Неужели сотрудники могут не увидеть разницы между лицом напротив и фотографией в паспорте? Да, могут. Недавно это подтвердил москвич Роман Зарипов, пройдя на борт самолёта в аэропорту Пулково по чужому паспорту. Исследования показывают: так может сделать каждый седьмой.

Учёные давно задумались о проблеме идентификации человеком чужих лиц. Кажется, нет ничего проще, чем определить сходство человеческого лица с его изображением. Однако здесь срабатывают механизмы нашего мозга: с точки зрения выживания индивиду важнее и проще идентифицировать «своих», чем «чужих».

Узнавание знакомых образов — раннее явление в онтогенезе человека. Ещё на заре человечества люди без труда узнавали соплеменников. Кто этот чужак, из какого он племени, как он выглядит — всё это не так важно. Значение имеет фиксация факта: это «чужой», и его нужно опасаться.

С тех пор прошла не одна тысяча лет, а психический процесс не сильно изменился. Мы с лёгкостью и чуть ли не за версту узнаём родственников или знаменитостей, но не способны сразу идентифицировать нового знакомого, с которым виделись пять минут назад.

В психологии есть понятие «повседневная слепота» или «слепота к изменениям». Оно означает неспособность обнаружить, что незнакомый объект переместился или исчез. Вы наверняка видели эксперимент-розыгрыш, проведенный Дэниелом Саймонсом и Дэниелом Левиным.

Экспериментатор под видом прохожего подходил к наивным испытуемым (настоящим прохожим) и просил показать на карте дорогу к одному из зданий университетского городка. Через 15-20 секунд после начала разговора два подставных рабочих проносили между экспериментатором и испытуемым дверь.

В этот момент экспериментатор менялся местами с одним из рабочих. Таким образом, когда дверь уносили, перед испытуемым стоял уже другой человек. В этой ситуации половина прохожих не замечала подмены собеседника и продолжала свои объяснения.

Если бы такой эксперимент имел продолжение в случае с родственником или знаменитостью, испытуемый моментально отреагировал бы на подмену. Природа на протяжении тысячелетий оттачивала в человеке навык определения своих среди чужих, а реальную пользу в будущем стало приносить умение определять чужих среди чужих.

Были и другие эксперименты: например, видеоролик, где актёр вставал со стула и подходил к телефону, чтобы ответить на звонок.

После просмотра испытуемым задавали вопрос: «Вы не заметили ничего странного?» И только 33% респондентов замечали, что в ролике играет не один, а сразу два актёра, к тому же одетые по-разному.

Однако в наше время сравнение человека, стоящего напротив, с изображением в паспорте стало задачей тысяч банковских клерков, пограничников, полицейских и представителей многих других профессий. Мы привыкли верить, что сотрудник, внимательно изучающий паспорт и черты лица, обладает уникальными знаниями или навыками.

Но может ли человек достоверно определить тождественность между вами и вашим изображением?

Мысль о том, что и глаза иногда ошибаются, поселилась в умах людей в 70-х годах 20 века, когда выяснилось, что и свидетели преступлений часто ошибаются при опознании преступников. Одна только американская организация Innocence Project, оправдавшая более 240 человек на основе ДНК-тестов, обнародовала свою статистику: 74% из этих осужденных оказались жертвами свидетельской ошибки.

В 1990 году начались первые эксперименты по изучению идентификационных навыков человека: отличным примером служит проект, демонстрирующий трудность различения незнакомцев по фотографии.

Респондентам показывали «эталонное» изображение лица человека и просили отыскать его среди других лиц. Кроме прочих показателей, процент ошибки у каждого испытуемого был примерно одинаков. Отсюда вывод: ошибались все.

В 2014 году Йоркский университет провёл очередное исследование, поставившее под вопрос профессионализм английских пограничников. Ученые пригласили 30 офицеров паспортного контроля, в чьи обязанности входила ежедневная проверка паспортов у прибывающих и отправляющихся пассажиров аэропортов.

Цель эксперимента состояла в том, чтобы выявить процент ошибок при идентификации личности с предъявленным документом. В качестве «пассажиров» пригласили студентов, которым оформили «настоящие» и «поддельные» (с чужой фотографией) удостоверения личности. Исследование показало, что средний процент правильных идентификаций не превышал 86%.

Наша команда поняла, что сотовые операторы попросту боятся доверять машине важные задачи (в нашем случае это было подтверждение личности при продаже SIM-карт через «симкоматы»), мы решили выяснить, с кем конкурирует наш продукт.

Для эксперимента мы с моим партнером по стартапу Антоном Бочкарёвым выбрали десять официальных центров обслуживания операторов связи (в частности — «Вымпелком», МТС, «Мегафон» и Tele2).

По требованию закона «О связи» и согласно регламенту СОРМ 2 (системы технических средств для обеспечения функций оперативно-розыскных мероприятий — vc.ru), представители оператора обязаны сравнивать желающего подключиться с изображением в его паспорте.

Я подключался у операторов из списка выше, предъявляя паспорт Бочкарёва. Дело в том, что мы с ним совершенно не похожи, поэтому результат сильно удивил: ни один из представителей сотовых операторов даже не заподозрил подлога, все документы были легко оформлены.

Такая же ситуация наблюдается и в продуктовых сетях при покупке алкоголя несовершеннолетними. Фактически продавцу нужен только факт предъявления паспорта, никакой верификации не происходит. Зачастую алкоголь продаётся подросткам по документам их братьев или сестер.

Однако если человек не может доверять своему зрению, мозгу и вообще процессу узнавания, то почему мы всё ещё используем это на пограничном контроле, доверяем человеческому фактору свои жизни?

Есть три причины, по которым алгоритмы ещё не сменили человека в этой сфере.

У человеческого зрения есть большой плюс — это безразличие к качеству картинки. Например, точность узнавания лиц на изображениях, сглаженных до размера 16 на 16 пикселей, равняется 20%. Это как если бы мы уместили на спичечном коробке около десяти лиц.

Точность узнавания свыше 50% сохраняется при сглаживании до эквивалентного размера 7 на 10 пикселей и становится практически равной максимально возможному значению при разрешении 19 на 27 пикселей. Алгоритму компьютерного зрения для получения аналогичного результата столь низкого разрешения недостаточно. Поэтому в заграничном паспорте имеется бумажная и цифровая фотографии высокого разрешения.

Исследования показывают, что 65% задержаний нарушителей границы стало возможным благодаря проверке документов. Остальные 35% относятся к сфере точной оценки психического состояния человека. В ситуации паспортного контроля происходит изменение естественного состояния человека, что приводит к искажению мимики, жестов и поведения.

Поведение — это та лакмусовая бумажка, по которой сотрудник пропускного пункта заподозрит в вас нарушителя. Компьютерные алгоритмы неспособны чувствовать состояние и уровень тревожности человека.

Законодательство многих стран ещё не готово к введению «ответственности компьютера». Если при идентификации сотрудник допустит ошибку, то его за это накажут, лишат премии или выпишут штраф. Если за этот процесс отвечает робот или компьютерная программа — наказывать некого. Поэтому автоматизированные контрольно-пропускные пункты устанавливают там, где люди не обманывают государство. Например, на границах между странами Евросоюза.

Человек — живое существо, в большей степени сформировавшееся в агрессивной к нему среде. Сейчас мы компенсируем некоторые «недостатки» технологиями, но фактически мы всё те же приматы с девизом «Выжить любой ценой». Но как железный «зуб» стал для Маугли инструментом превосходства, так и цифровые алгоритмы могут стать «палочкой-выручалочкой» в руках человека, ответственного за верификацию.

Тезисы know your customer («знай своего клиента», сокращённо KYC) и money laundering («отмывание денежных средств», сокращенно AML), обязующие компанию деанонимизировать своих клиентов, могут легко соблюдаться без использования человеческого труда.

Во многих ситуациях достаточно просто сопоставить два изображения (лицо человека и его фотографию), а также проверить документ на предмет цифровой подлинности, чтобы удалённо верифицировать клиента. С такой задачей быстрее и успешнее справится автоматическая система.

Такие системы действительно существуют. Например, в Англии ежегодно появляются по пять-десять стартапов, решающих проблему удалённой верификации личности для финансовых проектов (например, криптовалютных бирж).

Всего за последние пять лет в мире появилось несколько десятков проектов по онлайн-верификации, построенных на механизме сравнения лица и документа, удостоверяющего личность. Для систем идентификации открыт широкий спектр применения: от криптовалютных бирж до сервисов сдачи жилья и фриланс-площадок.

#Будущее