Правозащитники потребовали от Amazon прекратить продажи системы распознавания лиц властям Статьи редакции

Они опасаются, что правоохранительные органы используют технологии для слежки и преследования людей.

Американский союз защиты гражданских свобод (ACLU, некоммерческая неправительственная организация) обратился к гендиректору Amazon Джеффу Безосу с просьбой прекратить продажи системы распознавания лиц Rekognition полиции. Под письмом ACLU подписались представители ещё нескольких десятков правозащитных организаций.

Подразделение Amazon Web Services представила Rekognition в 2016 году. Система использует искусственный интеллект для быстрой идентификации людей на фото и видео, а также распознавания текстов. По собственным данным AWS, система способна распознать до 100 лиц на изображениях с большим количеством людей.

В письме Безосу представители ACLU утверждают, что власти могут злоупотреблять возможностями технологии, что представляет серьёзную угрозу для инакомыслящих, иммигрантов и чернокожих. Это также может ударить по доверию и уважению к Amazon, следует из письма.

Союз изучил маркетинговые материалы и документы AWS и заметил, что среди клиентов компании есть власти города Орландо (штат Флорида) и офис шерифа округа Вашингтон. Наибольшее беспокойство у ACLU вызвал проект Орландо по распознаванию лиц с изображений городских камер в режиме реального времени. О нём в начале мая рассказал директор Rekognition Ранджу Дас на конференции AWS в Сеуле.

Автоматизируя массовое наблюдение, системы распознавания лиц вроде Rekognition создают угрозу для свободы граждан, особенно сообществ, которые «несправедливо стали мишенью современного политического климата», заявили в союзе.

В качестве доказательства того, что технологии Amazon могут использоваться для массовой слежки за людьми, ACLU приводит отрывок из официального сообщения AWS.

Вы можете точно идентифицировать демографические данные и анализировать настроение всех лиц на групповых фотографиях, массовых мероприятиях и в общественных местах, таких как аэропорты и магазины.

из официального анонса AWS

Amazon не только продаёт властям технологии, но и помогает их развёртывать, уверены в ACLU. В качестве одного из доказательств они приводят запись в блоге на официальном сайте AWS от июня 2017 года. Её опубликовал старший аналитик информационных систем офиса шерифа округа Вашингтон. Он рассказал, как при содействии специалистов Rekognition им удалось отсканировать 300 тысяч снимков арестованных преступников для электронной базы.

В распоряжении ACLU также оказались письма сотрудникам поддержки Amazon от правительственных учреждений и ответы на них.

Так, в одном из писем сотрудник правоохранительных органов интересуется, можно ли улучшить технологию, чтобы она различала и автоматически добавляла описание татуировок заключённых. Система уже отмечает на фото всех заключённых с татуировками, но офицера интересует возможность сделать более точные теги: например, татуировка с драконом или с цветком.

Представитель Amazon сообщил Bloomberg, что компания требует от клиентов соблюдать законы и ответственно подходить к использованию Rekognition. «Когда мы обнаруживаем, что клиент злоупотребляет услугами AWS, мы приостанавливаем его права на использование наших сервисов», — отметил он.

В компании добавили, что различные организации используют Rekognition для поисках пропавших и похищенных людей, но конкретных примеров не привели. Также систему используют некоторые парки развлечений, чтобы находить потерянных детей. Среди других клиентов Rekognition — сервисы Pinterest и SmugMug, которые используют его для распознавания текста на изображениях, загруженных пользователями.

0
29 комментариев
Написать комментарий...
Пегий Дудочник

Боюсь в России эту новость вообще не поймут. У нас считается нормой что правоохранительные органы могут делать вообще всё что угодно. Какая слежка? Не убили и на том спасибо.

Ответить
Развернуть ветку
Юрий Прокопенко

Поймут или нет — не важно, в любом случае это борьба с ветряными мельницами, государства все-равно технологии получат, таков уж прогресс.
Лучше бы подумали, как усилить контроль, чтобы исключить злоупотребления. С другой стороны, кстати, Китай, где вопроса сокровенности частной жизни не наблюдается.

Кроме того, я не уверен, что мне нравится идея, когда технологии и данные есть только у крупных частных компаний.

Ответить
Развернуть ветку
Пегий Дудочник

«Лучше бы подумали, как усилить контроль...»

Мы и так №1 на планете по количеству ментов на душу населения. Куда усилять то? Мент в каждую квартиру что ли?

Ответить
Развернуть ветку
Юрий Прокопенко

Я про наоборот, разделение силы в институтах власти. За контроль силовиков т.е.

В России этого нет вообще.

Ответить
Развернуть ветку
Aleks B

в россии этого нет, потому что стоит обратная задача, значит работают эффективно

Ответить
Развернуть ветку
Serge Arsentiev

Как это нет? Есть много спецслужб, которые "контролируют" друг друга - это и есть система сдержек и противовесов. А знаете, какая страна - лидер по количеству спецслужб?

Ответить
Развернуть ветку
Юрий Прокопенко

Не знаю, перекрестного контроля что-то не замечал в России. Централизованный да, но это же прямо противоположное.

Ответить
Развернуть ветку
Serge Arsentiev

Юрий, если Вы смотрели Bricklebery, там есть сцена ареста банды байкеров. Та, где татуированные мужики при задержании каждый показывает удостоверение - кто полиции, кто ФБР, кто агентства такого, кто эдакого ... и потом они все смотрят друг на друга - и говорят, так что, в банде не было ни одного настоящего бандита?
 
Вот это перекрестный контроль :)
 
Фактически, можно предполагать о том, что каждая спецслужба старается завести агентов в каждой другой спецслужбе, и вся эта мешанина взаимосвязей как-то существует.

Центральный контроль - это иллюзия контроля, потому что приписки, с больной головы на здоровую, и все другие методы бюрократических войн. Ну, если Вы помните историю о краже свиней из поезда - где транспортная милиция валит на обычную, обычная на пограничников ... и в итоге признают что свиньи на ходу прыгали из поезда в реку, по ней сплавились до Финского залива, а потом уплыли в Финляндию, и поэтому дело закрыто.

 Система работает потому, что интересы спецслужб противоречат друг другу ... а лидером по количеству является США - где относительно недавно попытались сделать Homeland Security, которая несмотря на громкое название только добавило неразберихи.

Ответить
Развернуть ветку
Юрий Прокопенко

Всё так, только не нужно забывать, что кроме спецслужб есть прокуратуры, суды и т.д.

Ответить
Развернуть ветку
Serge Arsentiev

Это те же спецслужбы. Кто будет контролировать контролеров, как говорится.
 
В США, _формально_ есть якобы разделение властей, но реально - это абсолютно невозможно, и нужен ну очень сильный конфликт, чтобы это стало достоянием общественности.
Насколько я знаю, в США всегда предпочитают договариваться - и кому еще это делать, как не госслужащим между собой - пусть и повышая уровень переговоров до своих руководителей и еще выше?
Это же США, в случае скандала там страдает репутация всех участников, и это влияет на их карьеру.

Ответить
Развернуть ветку
Eugene Danilov
Ответить
Развернуть ветку
Eugene Danilov

Вы сейчас серьезно вообще? Про сноудена - и масштабы слежки анб - слышали? И что сделали рядовые американцы, что с тех пор поменялось?

Ответить
Развернуть ветку
Kirill Ivanoff

Вот поэтому американская система хороша

Ответить
Развернуть ветку
Serge Arsentiev

Тем что они зададут много глупых непрофессиональных вопросов, а им дадут официальный никакой ответ? Это вместо вербовки конкретных сотрудников в разработке ПО для спецслужб, и слива адресной информации о проектах в течение долгого времени, что:
1. Что будет являться преступлением само по себе ...
2. Но может быть реализовано с участием конкурирующей спецслужбы - например FBI или какой-либо еще - и тогда это будет не преступление, а расследование с "преступником", согласившимся на сотрудничество на условиях освобождения от преследования.
 
Но если общиий вектор такой, что это никто не захочет расследовать, а наоборот - такие проекты будут расширяться и углубляться ... то никакие активисты в борьбе за права нелегальных иммигрантов (мило, да?) и особенно "чернокожих" (это смутило в статье больше всего, неужели в оригинале заявления так же?) - ничего не добьются. Ну, может комиссию какую в Конгрессе сделают, и она признает что все ок. Потому что не может одновременно существовать Призма и вместе с тем, предположим, быть создана государственная комиссия по недопущению вторжения в частную жизнь и т.д. и т.п. Это будет похоже на борьбу нанайских мальчиков - где одна структура с миллиардными бюджетами следит, а другая - допустим с бюджетом в пару миллионов долларов, публикует отчеты ( reports ), наполненные отговорками и недомолвками.

Кстати, "товар" который выпускают всякие благотворительно-правозащитные организации, это именно эти reports. Обычно, многословные и бессмысленные. Вне зависимости от источников финансирования - частных или государственных.

Ответить
Развернуть ветку
Юрий Прокопенко

Насчет бессмысленности это спорно. Это часть института СМИ, как минимум, которая не сможет существовать как коммерческие организации.

Ответить
Развернуть ветку
Serge Arsentiev

Юрий, у меня был период, когда я верил в американских watchdogs и тому подобное, но он прошел, когда я больше узнал о США (со временем). Любое решение или контр-решение имеет своей целью зарабатывание денег, или перекрытие такой возможности кому-то ... общественный "протест" тем интенсивнее, чем больше сумма - бюджета проекта или гос. ассигнований.
Если Вы помните Эдди Мерфи в "Достопочтенный Джентельмен" - он там прямо в своем офисе на доске записывал слева тех кто даёт денег за законопроект ,а справа - тех кто даёт деньги против законопроекта ... и мне все больше кажется что это не было творческим преувеличением авторов фильма.
 
Некоторое отрезвление наступило, когда я прочитал о том как загадочно пропадают (с концами) люди, которые _действительно_ что-то накопали про корпорации и вроде как собирались дать пресс-конференцию. Совершенно случайно у них тут же находили неправильно порно (при пересечении границы, на ноуте с материалами для пресс-конференции), или они были найдены мертвыми без признаков насильственной смерти ... причем как правило это были именно одиночки, не вовлеченные ни в какие общественные действия (которые как правило являются скоординированными и управляемыми - потому что финансируются именно на этих условиях)

Ответить
Развернуть ветку
Юрий Прокопенко

Это в любом случае надежнее, чем альтернатива в виде единого центра.

Ответить
Развернуть ветку
Serge Arsentiev

Так нет никакого единого центра. Я извиняюсь, вот буквально неделю назад меня одна девушка-красавица на ровном месте втянула в скандал в деле, которое ей вроде бы самой было очень нужно, и шли переговоры с партнерами.
 
Так вот. Версии того, что и когда происходило (несмотря на то, что все ходы записаны), от самой девушки, от меня, от еще одного участника - отличались весьма значительно - и только под давлением фактов девушка сначала включила заднюю, а потом стала так извиняться, что в принципе уже было ясно, что она решила от души соврать, не рассчитав что ее на вранье поймают.

И это просто непродуманные эмоциональные действия одной девушки в бизнес-среде, где ничьи погоны или зведочки, премия ничья - вроде бы на кону не стоят. А представляете как люди выкручиваются, когда ставка чуть повыше? Там до правды не доберешься точно.

Ответить
Развернуть ветку
Фёдор Орешкин

В США есть отличный показатель безопасности как для меня лично. Там может гулять по улицам абсолютно любой. Пофиг насколько ты известный, сколько у тебя денег. Пусть даже ты миллиардер. Ты можешь спокойно пройтись по улице без охраны не переживая что с тобой что-то случится. В СНГ же это кортеж машин и армия охраны. Это кстати в западных странах нашим миллиардерам и нравится больше всего. Что они могут спокойной гулять пешком, поехать на метро и так д.

Ответить
Развернуть ветку
Харламка

Очень смешно. Расскажите об этом американцам. Они не в курсе.

Ответить
Развернуть ветку
Фёдор Орешкин

А что смешного то если это правда? У меня есть достаточно примеров крупных бизнесменов которые сейчас живут США. Там спокойно ходят пешком когда приезжают сюда передвигаются только с охраной. Американцам которые не жили в СНГ бессмысленно рассказывать, им не с чем сравнить.

Ответить
Развернуть ветку
Serge Arsentiev

Фёдор, в хороших районах. В подобном режиме и в России люди живут - загородный дом - офис - ресторан - фитнес - дом. И везде все хорошо. Без охраны.
Единственное отличие России, пока, что именно хорошие районы выделяются в резервации (закрытые коттеджные поселки), а все остальное вокруг считается опасным.
В США (для примера), просто другая планировка, плюс национальное деление - т.е. районы черных, латиносов, китайцев, районы просто бедных - их стараются проезжать без остановок, иногда на красный проскакивают чтобы в принципе не останавливаться.

Ответить
Развернуть ветку
Харламка

Потому что это неправда. Если ваш бизнесмен живет только в своем хорошем районе и там же передвигается, то это не повод проецировать на всю страну или даже весь регион.

К слову, охрану в России он может брать не по объективным причинам, а потому что клюквы насмотрелся.

Ответить
Развернуть ветку
Фёдор Орешкин

Хороших районов в США большинство. В том то и отличие. К примеру тот же Абрамович свободно гуляет по улицам в Англии. А когда приезжает в Россию ездит в кортедже с кучей охраны. Наверное поэтому он там и живёт.

Ответить
Развернуть ветку
Харламка

"Хороших районов в США большинство"

Т.е. в большинстве районов США никого не грабят на улице? Ну нет же. Или есть статистика с подтверждением?

Абрамович – ещё и чиновник. Когда Обама куда-то приезжал толкать речь в Штатах, то ради него целые районы перекрывали на въезд и выезд. И плевать, что ты на самолет опаздываешь.

Ответить
Развернуть ветку
Фёдор Орешкин

Грабят в тех районах что ты описал. Поэтому новые технологии могут ещё снизить преступность. Против которых выступают эти "правозащитники". Хуйовник он а не чиновник. Сранный губернатор какой-то чукотки. Такие чиновники в нормальных странах на велосипедах на работу ездят или на метро. А президент это совсем другое. В США было много покушений на президентов. Поэтому их так охраняют.

Ответить
Развернуть ветку
Yan Yanov

Функционал image recognition давно доступен на всех облачных платформах и не только на AWS, также на IBM Watson например и куче других.
Т.е. эта технология пришла и любой может заточить ее под свои нужды, хоть на котиков, хоть на слежку за людьми.
В РФ куча компаний тоже такое делает, но вроде как свое и продвигают как конечное решение силовикам, банкам и т.д.
А на самом деле это доступно любому стартапу сейчас.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Денис Кулагин
Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Фёдор Орешкин

Глупые какие-то правозащитники. Им спецслужбы обеспечивают безопасность, ловят преступников. А они говорят не нужно этого делать, зачем вы преследуете чернокожих гангстеров, и не только. У них должна быть свобода воровать, грабить и убивать.
Другой случай это конечно когда идёт злоупотреблением такими технологиями для каких-то целей не связаных с преступлениями. Ну вот на таких случаях и нужно концентрироваться правозащитникам а не пытаться полностью запретить новые технологии.

Ответить
Развернуть ветку
26 комментариев
Раскрывать всегда