Обман технологии распознавания лиц. Слежка не делает интернет безопаснее

The Atlantic публикует эссе Albert Fox Cahn, правозащитника и исполнительного директора нью-йоркской НКО Surveillance Technology Oversight Project, о разрушении концепции свободного интернета в Америке. Albert напоминает последние взломы популярного сервиса знакомств Tea Dating Advice, когда были украдены 70 000 изображений и 1 млн сообщений пользователей. Сервис уверяет, что проверяет личность пользователей, но колумнист проделал простой трюк с поддельной фотографией из сети, выдал ее за селфи и зарегистрировал эккаунт в Tea. Albert сомневается, что такие технологии как распознование лиц и другие способы проверки личности приведут к безопасности в сети. Они точно приведут к потере анонимности и приватности, а вот к безопасности – вряд ли.

Если обещаете кому-то соблюдать приватность, то держите свое слово. Tea Dating Advice, приложение, которое рекламирует себя как безопасное пространство для женщин, анонимно передает информацию о бывших партнерах, чтобы предупредить других о злоупотреблениях или обмане и временно ограничивает пользователя в приложении. Пользователи не имеют право делать скриншоты, а приложение заявляет, что проверяет, что пользователи - женщины. Но почему-то, приложение Tea разрешает колумнисту, мужчину средних лет, создать эккаунт спустя пару дней после выявления двух серьезных уязвимостей по безопасности.

В июле хакеры проникли в приложение Tea и получили доступ к чувствительным данным пользователей. 70 000 изображений пользователей и более 1 млн сообщений стали доступны злоумышленникам, включая сообщения про аборты, фото водительских прав пользователей и телефонные номера. После того, как эта история стала публичной, колумнист Albert Fox Cahn смог обмануть приложение самым простым способом: он загрузил фото женщины из Гугл изображений и использовал это фото как селфи. Использует ли приложение Tea алгоритмы или людей для проверки истинности фото неясно, компания не ответила колумнисту на его запрос.

Через 30 минут после фейка с фото у Albert появился эккаунт в приложении. Он удалил приложение, но у любого злоумышленника (например, сталкера или человека, который интересуется, рассказывает ли его подружка в приложении про его злоупотребления) в этом случае будут развязаны руки. Sonia Portaluppi, представитель Tea, уклонилась от комментариев, заявив, что "это юридический вопрос".

Уязвимости кибербезопасности в приложения Tea довольно чувствительны особенно с учетом высоких продаж приложения. Мы вступаем в такую эпоху, когда такие проблемы с безопасностью становятся обыденностью. Albert Fox Cahn защищает право на приватность, и он обеспокоен тем, что нет четкого определения, кто может использовать технологию распознавания лиц и процедуру идентификации личности, которые ограничивают доступ к цифровым услугам и уничтожают анонимность и уже в общем-то частично разрушили идею "безопасности" в интернете.

В Великобритании недавно приняли Закон о безопасности в интернете (Online Safety Act). Согласно новому Закону, многие вэб сайты и приложения должны проверять, что пользователь старше 18ти лет. Причем часто делается запрос в государственные службы или необходимо сделать селфи.

В США федеральные законодатели рассматривают аналогичный законопроект -Kids Online Safety Act или KOSA. Некоторые штаты уже включили такое требование для пользователей в Интернете. Хотя глобальная цель уберечь несовершеннолетних от вреда в Интернете очень правильная, но результатом будет создание навязчивых, небезопасных и абсолютно неэффективных способов проверки в целях безопасности в интернет-сервисах.

В рамках нового закона Великобритании компании, отказывающие внедрять ПО, определяющее возраст пользователя, могут столкнуться с миллиардными штрафами или даже уголовным преследованием. Владельцев платформ, предлагающих порно услуги, возможно, и не стоит жалеть, но закон направлен на очень общий "приоритетный контент", поэтому он может затронуть даже такие платформы как Bluesky и Discord.

Wikipedia заявила, что может ограничить доступ пользователей к своей платформе в Великобритании. Другие платформы уже ввели ограничения на доступ к своим сайтам, чтобы не нарушить новый закон. Согласно данным TechDirt, резиденты Великобритании должны подтвердить свой возраст, чтобы получить доступ к платформе Х* для просмотра роликов о протестах или Reddit для чтения записей про психоактивные вещества.

*Платформа запрещена в РФ

Неудивительно, что все эти изменения привели к тому, что люди начали обходить эти проверки, как колумнист придумал с приложением Tea. Некоторые пользователи используют VPN, чтобы заменить страну, из которой происходит доступ к сайту.

Forbes и PCGamer сообщают, что подростки в Великобритании используют разные методы обмана технологий распознавания лиц, показывая на смартфоне героев из видеоигр.

Такой сложный процесс идентификации создает иллюзию, что пользователи в безопасности на платформе, и несанкционированный доступ исключен. На практике, люди легко обманывают процессы верификации с помощью разных методов. Вэб сайты с чувствительным контентом могут стать менее безопасными, так как риски взлома повышаются значительно.

В США многие штаты внедряют требования проверки возраста пользователя для доступа к взрослому контенту и приложениям социальных медиа. Штат Юта, Луизиана и другие также блокируют доступ детей к "вредному" контенту. Сенатор Todd Weiler, штат Юта, отвечая на вопрос о порнографии заявил: "Я не думаю, что эти сайты должны быть у ребенка в голове, когда у него формируются понятия гендера и секса".

Колумнист Albert Fox Cahn опасается, что если штат собирается контролировать гендер, то возможно, будут блокировать информацию политического характера, контент ЛГБТ, информацию об абортах и другие материалы.

Эта ситуация характерна не только для консервативных штатов. В прошлом году Нью-Йорк ввел в действие Закон о безопасности детей (Safe for Kids Act). Согласно новому Закону компании из сектора социальных медиа должны мониторить возраст пользователей. Стремление законодателей защитить подростков от токсичных социальных медиа вполне понятно, но есть риск, что законодатели повторят ошибки других штатов и стран, внедривших технологии распознавания лиц.

Есть много причин волноваться о влиянии социальных медиа на подростков.

Но законодатели могли бы вместо введения общих методов безопасности в интернете, сосредоточиться именно на детях и даже взрослых. Социальные медиа могут быть токсичным местом, не важно вам 13ть лет или 23 года. Разумеется, все волнуются за подростков, но пока мало доказательств, что мозг становится менее восприимчив к технологиям, как только человеку исполнится 18ть. Многие взрослые также подвержены риску воздействия технологий, особенно, если у них есть ментальные проблемы.

Меры, предлагаемые штатом Нью-Йорк для защиты детей, а именно: ограничения показа уведомлений ночью, ограничение на просмотр алгоритмовых лент, в теории могут быть полезны и для взрослых. Если бы закон распространялся на всех одинаково, то и не было бы необходимости в навязчивой слежке.

Правда в том, что существует совсем мало способов достоверно проверить чью-либо идентичность. И нет способов сделать это эффективно и сохранить анонимность пользователя. С учетом того, какой ужасающий контент распространяется в интернете сегодня, отказ от анонимности может показаться маленькой платой за безопасность. Но применение новых законов означает именно принесение в жертву приватности, а не достижение безопасности.

Потеря анонимного доступа в интернет дает компаниям и государству больше власти, чтобы следить за пользователями. И выходит, что американская концепция свободного интернета трансформируется в что-то, напоминающее централизованные системы слежения за пользователями. Американцы теряют свободный интернет и получают то, что распространено в Китае и других странах. Перспектива увидеть интернет, связанный с нашей реальной личностью, выглядит угрожающе.

Ссылка на статью: