Когда расизм нашли в строках кода или неэтичный алгоритм

Китайскую компанию Dahua окончательно поймали в использовании в своём софте алгоритмов, которые дискриминируют человека на основе расы. Речь про обнаружение с помощью "умных камер" в реальном времени уйгуров (притесняемого меньшинства в Китае) и мгновенного оповещения полиции.

В их открытых документах и репозитории на гитхабе нашли строки кода:

EM_NATION_TYPE_UYGUR = 1.

и полную сортировку по расе

EM_RACE_UNKNOWN = 0, EM_RACE_NODISTI = 1, EM_RACE_YELLOW = 2; EM_RACE_BLACK = 3 and EM_RACE_WHITE = 4.

Роль "уйгур" в системе стоит рядом с категориями "драгдилер", "террорист" и подобными для полицейской системы "Умный город".

После того, как этот скандал раскачали, многие руководители компаний (а только в Калифорнии известно про 70 контрактов) стали публично отказываться от работы с Dahua. По-моему это первый пример, когда тема расизма _внутри_ продукта использована для того, чтобы ударить по коммерческой крупной компании.

При этом нет доказательств, что в конкретном софте или камерах, купленных американскими компаниями, реализован именно этот код. Dahua тоже хороши - прячут голову в песок, твердят "вы всё врете" и зачищают свои же документы и презентации. Но получается недостаточно ловко.

Автор - основатель Segmento, занимаюсь новой магистратурой ВШЭ про продукт

0
81 комментарий
Написать комментарий...
xxx xxx

Коммунисты и гэбэшники что бы не изобретали получается концлагерь

Ответить
Развернуть ветку
Key Lansky

Англичанам сейчас обидно стало.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
16 комментариев
Денис Демидов

Капиталистов из нацисткой Германии никто еще не переплюнул в деле строительства концлагерей.

Ответить
Развернуть ветку
2 комментария
Сергей Королевский

Это факт

Ответить
Развернуть ветку
Прочел это-потратил время зря

От компании с таким названием можно ожидать все что угодно.
Вот если бы работали в Nihua - то ничего не было бы.

Ответить
Развернуть ветку
Сергей Королевский

Тем временем компания Nahua так и не запустила продукт

Ответить
Развернуть ветку
Сергей Токарев

а если бы Pohuiy- то и сейчас бы все с ними работали

Ответить
Развернуть ветку
Михаил Сметанников

У них полное название Dahua Technology, странно что основатели не русские)

Ответить
Развернуть ветку
Роман Нестер
Автор

Ну я замечу, что у нас одна из крупнейших и успешнейших айти компаний называется для всего англоязычного мира "Жопа Одина". 

Ответить
Развернуть ветку
1 комментарий
Александр Кадетов

В софте для распознания лиц нашли константы для разделения объектов по подгруппам. Невероятно!
Как без этого работать? Всех людей относить к одной расе, полу, национальной группе? Это позволяет быстрее и точнее проводить поиск, отсеивая все ненужное.

Ответить
Развернуть ветку
AeternaMens

Вы сначала прочитайте, что они с уйгурами делают после такого "распознавания". 

Ответить
Развернуть ветку
1 комментарий
Бабка в засаде

Азиаты, внезапно, расисты? Вот так новость! Никогда такого не было, чтобы в Тае «фарангом» называли только белых иностранцев, в Китае было то же самое с «лаоваями», а в Малайзии вообще относительно недавно ввели разделение граждан по расовому признаку, разумеется с ущемлением «унтерменшей» 

Ответить
Развернуть ветку
Alexander Mitryashkin

Недавно? В Малайзии как мне помнится уже очень давно малайцы титульная нация

Ответить
Развернуть ветку
Дмитрий

Африканские негры не отстают: все белые для них «мзунгу»

Ответить
Развернуть ветку
Адис Омурзаков

В цифровом мире кластеризация по расе, что!? Китай уверено и твёрдо закручивает гайки 🔩 Уйгурам. Эта тенденция динамично перетекает в СНГ, кластеризация другая: свой 🔁чужой, среди своих.

Ответить
Развернуть ветку
Бабка в засаде

Лол впервые вижу чтобы мужик пихал эти тупые иконки в текст, да ещё и в комменте на серьёзную тему 

Ответить
Развернуть ветку
Михаил Набоков

Почему рашке должно быть не плевать на нерезидентов/неграждан? Почему должны существовать иные языки кроме русского в России? Что бы разделять на свой-чужой всех?

Ответить
Развернуть ветку
3 комментария
Андрей Деревянко

Лол, а как построить кластеризующую систему без кластеризации? Это не автомат по продаже кофе, а распознавалка лиц ващет

Ответить
Развернуть ветку
2 комментария
Михаил Набоков

А почему китай их так дрочит? 

Ответить
Развернуть ветку
Николай Горелов

Только по одной причине, они не хотят быть китайцами.

Ответить
Развернуть ветку
1 комментарий
greg chudnoff

Это по сути не китайцы а турки, и они хотят независимость от Китая
https://ru.wikipedia.org/wiki/Движение_за_независимость_Восточного_Туркестана

Ответить
Развернуть ветку
1 комментарий
Tim А.

потому что от них много проблем, слишком взрывоопасны

Ответить
Развернуть ветку
1 комментарий
Эмилия Теплова

От компания дахуя такого конечно никто не ожидал.
Хотя может там и другие переменные такого типа
EM_NATION_TYPE_NIGER = 1, т.е. сам по себе детект расы для внутреннего разделения не преступление.

Ответить
Развернуть ветку
Ivan Nemchinov

я смотрю у них dahua проблем теперь

Ответить
Развернуть ветку
antoshka

тему расизма в Китае все знают , просто молчат, главное чтобы происхождение были не из еврей , темнокожих и белых. От беженцев слышал , что есть концлагеря, незнаю насколько это пруф инфо, но все больше убеждаюсь что они там есть.

Ответить
Развернуть ветку
August Vilakia

Там уже и доказательства этому есть, Гугл снимки, интервью ббс со сбежавшими и все прочее

Ответить
Развернуть ветку
Андрей Деревянко

Очень смешно использовать на сайте русскоязычных айтишников размытый скриншот с китайскими иероглифами (!) в качестве пруфов)

Ответить
Развернуть ветку
Роман Нестер
Автор

Это скрин из репорта американской специализирующейся на этом компании. И да, они изучали именно документы на языке оригинала, потому что из англоязычных версий всё вычищено - а что там ещё должно быть, эмодзи?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Mikail Noface

У каждого человека должна быть своя идеалогия, подчинение другим идеалом=рабство.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Михаил Набоков

Идеология пофигизма

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
AeternaMens

Такая, что и в РФ сейчас тоже уже распознают условных "сторонников Навального" на входе в метро. 

Ответить
Развернуть ветку
4 комментария
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Bulat Ziganshin

кто ж им даст такие армии завести? суть государства - в монополии на насилие, если его нет - у вас слабое государство. вспомните Германию начала 30-х

Ответить
Развернуть ветку
3 комментария
greg chudnoff

Nahua 

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Voin Mraka

раса у них, если че, одна. разница в вероисповедании. получается "Религиозная дискриминация" ;-)

Ответить
Развернуть ветку
Герман Анортосис
притесняемого меньшинства в Китае

Не надо нам пропаганду гнать, плиз

Ответить
Развернуть ветку
Роман Нестер
Автор

А как на самом деле? Всё придумали? В коде почему-то про другие этносы и религии ничего нет.

Ответить
Развернуть ветку
ivan krapivin

Я думал UYGHUR это промокод

Ответить
Развернуть ветку
Дмитрий Иванов

"EM_NATION_TYPE_UYGUR"
Блин, ну такие переменные в .env надо выносить..

Ответить
Развернуть ветку
Евгений Новожилов

Уйгурофобия какая-то. Возмущены.

Ответить
Развернуть ветку
78 комментариев
Раскрывать всегда