Правозащитники потребовали от Amazon прекратить продажи системы распознавания лиц властям
Они опасаются, что правоохранительные органы используют технологии для слежки и преследования людей.
Американский союз защиты гражданских свобод (ACLU, некоммерческая неправительственная организация) обратился к гендиректору Amazon Джеффу Безосу с просьбой прекратить продажи системы распознавания лиц Rekognition полиции. Под письмом ACLU подписались представители ещё нескольких десятков правозащитных организаций.
Подразделение Amazon Web Services представила Rekognition в 2016 году. Система использует искусственный интеллект для быстрой идентификации людей на фото и видео, а также распознавания текстов. По собственным данным AWS, система способна распознать до 100 лиц на изображениях с большим количеством людей.
В письме Безосу представители ACLU утверждают, что власти могут злоупотреблять возможностями технологии, что представляет серьёзную угрозу для инакомыслящих, иммигрантов и чернокожих. Это также может ударить по доверию и уважению к Amazon, следует из письма.
Союз изучил маркетинговые материалы и документы AWS и заметил, что среди клиентов компании есть власти города Орландо (штат Флорида) и офис шерифа округа Вашингтон. Наибольшее беспокойство у ACLU вызвал проект Орландо по распознаванию лиц с изображений городских камер в режиме реального времени. О нём в начале мая рассказал директор Rekognition Ранджу Дас на конференции AWS в Сеуле.
Автоматизируя массовое наблюдение, системы распознавания лиц вроде Rekognition создают угрозу для свободы граждан, особенно сообществ, которые «несправедливо стали мишенью современного политического климата», заявили в союзе.
В качестве доказательства того, что технологии Amazon могут использоваться для массовой слежки за людьми, ACLU приводит отрывок из официального сообщения AWS.
Вы можете точно идентифицировать демографические данные и анализировать настроение всех лиц на групповых фотографиях, массовых мероприятиях и в общественных местах, таких как аэропорты и магазины.
Amazon не только продаёт властям технологии, но и помогает их развёртывать, уверены в ACLU. В качестве одного из доказательств они приводят запись в блоге на официальном сайте AWS от июня 2017 года. Её опубликовал старший аналитик информационных систем офиса шерифа округа Вашингтон. Он рассказал, как при содействии специалистов Rekognition им удалось отсканировать 300 тысяч снимков арестованных преступников для электронной базы.
В распоряжении ACLU также оказались письма сотрудникам поддержки Amazon от правительственных учреждений и ответы на них.
Так, в одном из писем сотрудник правоохранительных органов интересуется, можно ли улучшить технологию, чтобы она различала и автоматически добавляла описание татуировок заключённых. Система уже отмечает на фото всех заключённых с татуировками, но офицера интересует возможность сделать более точные теги: например, татуировка с драконом или с цветком.
Представитель Amazon сообщил Bloomberg, что компания требует от клиентов соблюдать законы и ответственно подходить к использованию Rekognition. «Когда мы обнаруживаем, что клиент злоупотребляет услугами AWS, мы приостанавливаем его права на использование наших сервисов», — отметил он.
В компании добавили, что различные организации используют Rekognition для поисках пропавших и похищенных людей, но конкретных примеров не привели. Также систему используют некоторые парки развлечений, чтобы находить потерянных детей. Среди других клиентов Rekognition — сервисы Pinterest и SmugMug, которые используют его для распознавания текста на изображениях, загруженных пользователями.
Боюсь в России эту новость вообще не поймут. У нас считается нормой что правоохранительные органы могут делать вообще всё что угодно. Какая слежка? Не убили и на том спасибо.
Поймут или нет — не важно, в любом случае это борьба с ветряными мельницами, государства все-равно технологии получат, таков уж прогресс.
Лучше бы подумали, как усилить контроль, чтобы исключить злоупотребления. С другой стороны, кстати, Китай, где вопроса сокровенности частной жизни не наблюдается.
Кроме того, я не уверен, что мне нравится идея, когда технологии и данные есть только у крупных частных компаний.
Вы сейчас серьезно вообще? Про сноудена - и масштабы слежки анб - слышали? И что сделали рядовые американцы, что с тех пор поменялось?
Вот поэтому американская система хороша
Тем что они зададут много глупых непрофессиональных вопросов, а им дадут официальный никакой ответ? Это вместо вербовки конкретных сотрудников в разработке ПО для спецслужб, и слива адресной информации о проектах в течение долгого времени, что:
1. Что будет являться преступлением само по себе ...
2. Но может быть реализовано с участием конкурирующей спецслужбы - например FBI или какой-либо еще - и тогда это будет не преступление, а расследование с "преступником", согласившимся на сотрудничество на условиях освобождения от преследования.
Но если общиий вектор такой, что это никто не захочет расследовать, а наоборот - такие проекты будут расширяться и углубляться ... то никакие активисты в борьбе за права нелегальных иммигрантов (мило, да?) и особенно "чернокожих" (это смутило в статье больше всего, неужели в оригинале заявления так же?) - ничего не добьются. Ну, может комиссию какую в Конгрессе сделают, и она признает что все ок. Потому что не может одновременно существовать Призма и вместе с тем, предположим, быть создана государственная комиссия по недопущению вторжения в частную жизнь и т.д. и т.п. Это будет похоже на борьбу нанайских мальчиков - где одна структура с миллиардными бюджетами следит, а другая - допустим с бюджетом в пару миллионов долларов, публикует отчеты ( reports ), наполненные отговорками и недомолвками.
Кстати, "товар" который выпускают всякие благотворительно-правозащитные организации, это именно эти reports. Обычно, многословные и бессмысленные. Вне зависимости от источников финансирования - частных или государственных.
Функционал image recognition давно доступен на всех облачных платформах и не только на AWS, также на IBM Watson например и куче других.
Т.е. эта технология пришла и любой может заточить ее под свои нужды, хоть на котиков, хоть на слежку за людьми.
В РФ куча компаний тоже такое делает, но вроде как свое и продвигают как конечное решение силовикам, банкам и т.д.
А на самом деле это доступно любому стартапу сейчас.