{"id":14268,"url":"\/distributions\/14268\/click?bit=1&hash=1e3309842e8b07895e75261917827295839cd5d4d57d48f0ca524f3f535a7946","title":"\u0420\u0430\u0437\u0440\u0435\u0448\u0430\u0442\u044c \u0441\u043e\u0442\u0440\u0443\u0434\u043d\u0438\u043a\u0430\u043c \u0438\u0433\u0440\u0430\u0442\u044c \u043d\u0430 \u0440\u0430\u0431\u043e\u0447\u0435\u043c \u043c\u0435\u0441\u0442\u0435 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e?","buttonText":"\u0423\u0437\u043d\u0430\u0442\u044c","imageUuid":"f71e1caf-7964-5525-98be-104bb436cb54"}

Когда расизм нашли в строках кода или неэтичный алгоритм

Китайскую компанию Dahua окончательно поймали в использовании в своём софте алгоритмов, которые дискриминируют человека на основе расы. Речь про обнаружение с помощью "умных камер" в реальном времени уйгуров (притесняемого меньшинства в Китае) и мгновенного оповещения полиции.

В их открытых документах и репозитории на гитхабе нашли строки кода:

EM_NATION_TYPE_UYGUR = 1.

и полную сортировку по расе

EM_RACE_UNKNOWN = 0, EM_RACE_NODISTI = 1, EM_RACE_YELLOW = 2; EM_RACE_BLACK = 3 and EM_RACE_WHITE = 4.

Роль "уйгур" в системе стоит рядом с категориями "драгдилер", "террорист" и подобными для полицейской системы "Умный город".

После того, как этот скандал раскачали, многие руководители компаний (а только в Калифорнии известно про 70 контрактов) стали публично отказываться от работы с Dahua. По-моему это первый пример, когда тема расизма _внутри_ продукта использована для того, чтобы ударить по коммерческой крупной компании.

При этом нет доказательств, что в конкретном софте или камерах, купленных американскими компаниями, реализован именно этот код. Dahua тоже хороши - прячут голову в песок, твердят "вы всё врете" и зачищают свои же документы и презентации. Но получается недостаточно ловко.

Автор - основатель Segmento, занимаюсь новой магистратурой ВШЭ про продукт

0
81 комментарий
Написать комментарий...
Адис Омурзаков

В цифровом мире кластеризация по расе, что!? Китай уверено и твёрдо закручивает гайки 🔩 Уйгурам. Эта тенденция динамично перетекает в СНГ, кластеризация другая: свой 🔁чужой, среди своих.

Ответить
Развернуть ветку
Михаил Набоков

Почему рашке должно быть не плевать на нерезидентов/неграждан? Почему должны существовать иные языки кроме русского в России? Что бы разделять на свой-чужой всех?

Ответить
Развернуть ветку
Vikarti Anatra

Потому что  есть в Росси народы кроме русского (татары те же). 
некоторые из них даже бонусы имеют по сути за свою национальность (на Крайнем Севере, чукчи всякие вроде с нефтью связано). Да и религий очень широко распространенных две минимум.
И нормально более менее живут вместе. 
И свои обычаи все же поддерживают. (Те же магазины хиджабов и прочей атрибутики - существуют как сами так и на озоне(даже) все это есть).

Другие языки - предлагается вообщез запретить общение на других, работу телеканалов и прессы?(примерно как латвия про "неграждан" хочет). Но тогда вопрос - а что делать с английским? Он нужен очень многим. 

Почему не плевать на неграждан?
Потому что некоторые сервисы проще оказывать без проверки гражданства хотя бы потому что на проверку может уйти время лишнее (экстренная медицина) или ресурсы или создаст проблемы гражданам (проезд в общественном транспорте - если он только для граждан - придется гражданам таскать с собой паспорт. И показывать). Ну и как быть тем кто в процессе получения гражданства?

Ответить
Развернуть ветку
Nan Nan

Паспорт или иное удостоверение личности у нас и так нужно всегда иметь при себе 

Ответить
Развернуть ветку
Vikarti Anatra

Но факту - я например хожу по городу без паспорта. И не имею особых проблем. В том числе с  полицией (в тех случаях когда был интерес - спросили где живу и паспортные данные).

Ситуации когда иду в парк побегать а потом в магазин зайти рядом - норма(и думаю не только для меня). (плачу в магазине часами, пакетик от них).

Если совсем ЧП - ну телефон то со мной, позвоню, подвезут мой паспорт. 3 (или сколько там?) часов у полиции на установление личности в том числе и для этой ситуации как я понимаю.

Но: я на митинги за/против Путин/Навальный/Явлинский/Зюганов не хожу (Если решу что нужно - там будут совершенно по другому планирование что с собой брать а что - нет. И законы  тут будут не первую роль играть).

Даже дома за последнюю неделю:
- приходят монтажники подключать кое что, по правилам в договоре для этой услуги нужен паспорт. Записали со слов (ну потерялся он временно, вечером нашелся).
- получение посылки у курьера(весьма немалой цены). Паспорт даже не смотрел курьер - сказал не надо.
Но в обоих случаях - были известен сотовый телефон и адрес.

Ну да, у меня личико а мой взгляд вполне красивое и без шрамов и соответствует той национальности которой в городе большинство. Может быть в этом дело.

Если меня в транспорте попросят паспорт показать - если он с собой и я не имею ничего против в данном случае - я покажу. В своих руках (в толкучке в общественном транспорте - кондуктору придется пробиватся ко мне, водителю маршрутки - проходить). Если начнутся претензии на тему того почему я его не передаю его - ну получат цитату с последней страницы (про "запрещается изъятие") + могу и сказать что нету (даже если есть), и вообще какое право у вас?  Если будет отказ в перевозке - ну скажем так - если УЖЕ взяли деньги - будет уже от меня скандал, с требованием вернуть деньги (особенно весело если оплата картой была, в общественнном транспорте в нашем городе кондуктор физически не сможет сделать рефанд сделать, там списание то идет офлайном) либо оказывать оплаченную услугу.

Ответить
Развернуть ветку
78 комментариев
Раскрывать всегда