{"id":14279,"url":"\/distributions\/14279\/click?bit=1&hash=4408d97a995353c62a7353088166cda4ded361bf29df096e086ea0bbb9c1b2fc","title":"\u0427\u0442\u043e \u0432\u044b\u0431\u0435\u0440\u0435\u0442\u0435: \u0432\u044b\u0435\u0445\u0430\u0442\u044c \u043f\u043e\u0437\u0436\u0435 \u0438\u043b\u0438 \u0437\u0430\u0435\u0445\u0430\u0442\u044c \u0440\u0430\u043d\u044c\u0448\u0435?","buttonText":"","imageUuid":""}

Когда расизм нашли в строках кода или неэтичный алгоритм

Китайскую компанию Dahua окончательно поймали в использовании в своём софте алгоритмов, которые дискриминируют человека на основе расы. Речь про обнаружение с помощью "умных камер" в реальном времени уйгуров (притесняемого меньшинства в Китае) и мгновенного оповещения полиции.

В их открытых документах и репозитории на гитхабе нашли строки кода:

EM_NATION_TYPE_UYGUR = 1.

и полную сортировку по расе

EM_RACE_UNKNOWN = 0, EM_RACE_NODISTI = 1, EM_RACE_YELLOW = 2; EM_RACE_BLACK = 3 and EM_RACE_WHITE = 4.

Роль "уйгур" в системе стоит рядом с категориями "драгдилер", "террорист" и подобными для полицейской системы "Умный город".

После того, как этот скандал раскачали, многие руководители компаний (а только в Калифорнии известно про 70 контрактов) стали публично отказываться от работы с Dahua. По-моему это первый пример, когда тема расизма _внутри_ продукта использована для того, чтобы ударить по коммерческой крупной компании.

При этом нет доказательств, что в конкретном софте или камерах, купленных американскими компаниями, реализован именно этот код. Dahua тоже хороши - прячут голову в песок, твердят "вы всё врете" и зачищают свои же документы и презентации. Но получается недостаточно ловко.

Автор - основатель Segmento, занимаюсь новой магистратурой ВШЭ про продукт

0
81 комментарий
Написать комментарий...
xxx xxx

Коммунисты и гэбэшники что бы не изобретали получается концлагерь

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Bulat Ziganshin

ты в курсе, что в одной японии американцы убили сотни тысяч мирных жителей? зачем терроризм и самодельные бомбы тем, у кого есть ядерная бомба?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Bulat Ziganshin

я знаком с этим аргументом. ты знаешь, что нацисты тоже уничтожали евреев не просто так, а опасаясь "ножа в спину"? что они сжигали белорусские деревни не из ненависти к славянам, а потому что некоторые белорусы поддерживали террористов?

однако объявить нацию/страну террористической на основе действий *некоторых* её представителей и систематически её уничтожать за это - это преступление против человечества. и американцы здесь могут индульгировать не больше, чем нацисты

собственно, в Японии объявили эти бомбёжки военными преступлениями и расстреливали попавшихся пилотов без суда и следствия. победи в  войне другая сторона - мы бы имели нюрнбергский процесс, где Трумен и его генералы сидели бы на скамье подсудимых

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Bulat Ziganshin

напомню, что советские войска тоже использовали самоубийственные атаки и даже восхваляли подвиг Матросова. напомню, что Россия гордится тем, что организовывала в тылу врага террористические атаки. как вы думаете, это оправдывает убийство нацистами мирных жителей?

Ответить
Развернуть ветку
78 комментариев
Раскрывать всегда