Рубрика развивается при поддержке HP logo

Редактор сайта на основе искусственного интеллекта от Microsoft перепутал двух певиц — программу обвинили в расизме Материал редакции

Алгоритм, которым заменили живых редакторов, работает на сайте MSN всего неделю.

В закладки

Алгоритм от Microsoft, занимающийся обработкой новостей на сайте MSN, перепутал двух певиц смешанной расы — компания заменила часть редакторов искусственным интеллектом в конце мая 2020 года. Об этом сообщает The Guardian.

Ли-Энн Пиннок (слева) и Джейд Фёрволл (справа) The Verge

Программа следит за тем, что появляется на главной странице MSN. Новость о том, что участница группы Little Mix Джейд Фёрволл рассказала об опыте столкновения с расизмом в школе, алгоритм опубликовал вместе с фотографией другой участницы группы — Ли-Энн Пиннок. Фёрволл прокомментировала ошибку на своей странице в «Историях» в Instagram.

MSN, если вы хотите копировать и публиковать у себя статьи из других источников, то вам стоит сначала убедиться, что вы берёте фото правильного участника группы смешанной расы.

Это дерьмо происходит со мной и Ли-Энн Пиннок постоянно. Меня оскорбляет то, что вы не можете различить двух «цветных» женщин в группе из четырёх человек. Старайтесь лучше!

Джейд Фёрволл
участница группы Little Mix

Певица скорее всего не знала, что новости на MSN отбирает ИИ, заключило издание.

«Как только мы узнали об этой проблеме, мы немедленно приняли меры для ее решения и заменили неправильную фотографию», — прокомментировали в Microsoft.

Компания поручила оставшимся «живым» редакторам сайта удалить негативную публикацию о роботе-редакторе, если алгоритм опубликует её в новостном сервисе, пишет издание со ссылкой на одного из сотрудников. «Со всеми этими антирасистскими протестами сейчас не время ошибаться», — отметил собеседник издания.

{ "author_name": "Лиана Липанова", "author_type": "editor", "tags": ["\u043d\u043e\u0432\u043e\u0441\u0442\u044c","\u043d\u043e\u0432\u043e\u0441\u0442\u0438","microsoft"], "comments": 77, "likes": 7, "favorites": 12, "is_advertisement": false, "subsite_label": "future", "id": 132993, "is_wide": false, "is_ugc": false, "date": "Tue, 09 Jun 2020 17:29:08 +0300", "is_special": false }
Всегда под рукой HP ENVY x360 на базе процессора Intel® Core™ i7 Узнать больше
Объявление на vc.ru
0
77 комментариев
Популярные
По порядку
Написать комментарий...
69

Интересно, а вот когда путают Элайджа Вуда и Дэниэла Рэдклифа, то никто не говорит о расизме

Ответить
29

Они белые. Расизм почему-то это только когда чёрные, но по идее это должно называться Чернизм или как-то так.

Ответить
25

Как только мы приехали в холл, этот человек выпалил: ГАРРИ ПОТТЕР!

А я в ответ: НЕТ!

Рэдклиф, конечно, шутник!

Ответить
4

Зачем вы обсуждаете SJW-пропаганду по существу?

Ответить
1

в смысле это разные люди?

Ответить
0

Конечно, Элайджа наркоманил и дрочил в расово верном сериале Уилфред,
А Красныйутес ел людей в син-сити.
Как можно перепутать?

Ответить
35

На всякий случай, чтобы меня не обвинили в расизме:
🤦🏼‍♂️🤦🏽‍♂️🤦🏾‍♂️🤦🏿‍♂️🤦🏻‍♂️🤦‍♂️

Ответить
128

опа, попался на сексизме

Ответить
3

Точняк! Запостил и сразу об этом подумал 😆😆😆
С другой стороны - я же мужчина - фэйспалмы как бы от моего (мультинационального) лица.. может, прокатит в верховном суде сша 🤔

Ответить
11

есть 300 гендеров, какой сам выберешь, на какой вторую личность посадишь?

Ответить
1

Не, ну нафиг.
Я сознательно вне этого дискурса

Ответить
4

Что такое? расширяем свои взгляды на жизнь? а вот это уже мэнспрэддинг

Ответить
1

Я, пожалуй, в сторонке постою 👀

Ответить
10

а сторонку-то сначала выбрать придется. 

Ответить
2

Туше 😆

Я свою выбрал - вера Богу и здравый смысл.

Спасибо Канту - дал образ.
Спасибо Гегелю - дал инструмент диалектики (а.к.а. здравый смысл)

Всем желаю счастья 🖖

Ответить
8

Богов пять тысяч штук разных, какого не выбери, других верунцов все равно оскорбишь

Ответить
0

Я не стремлюсь кому-то что-то навязать 🤷‍♂️

У каждого свой путь

Да и в целом - обсуждаю такие вопросы с близкими друзьями (и вот ещё на vc)))) - а на улице я не проповедую и не агитирую

PS
Яхве передавайте привет 🖖

Ответить
–1

Яхве относительно молодой бог, его люди придумали позже египетских

Ответить
0

Не признаете другие гендеры значит?

Ответить
38

"Программу обвинили в расизме"
"Программу"
"В расизме"..

Ответить
32

Сначала делают одинаковые брови, губы и т.д а потом удивляются что их невозможно различить. Да она себя уже наверное скоро не сможет на фотках отличить.

Ответить
4

Один пластический хирург у всех селебрити.

Ответить
0

Визажист. У этих двух дам пластики на лице не вижу, а вот мейкап да, любое лицо можно нарисовать.

Ответить
21

И "живые" редактора в MSN:

Ответить
4

девушка справа по центру точно нет

Ответить
1

А теперь объясните, что это за направление - справа, по центру?

Ответить
7

Друг спрашивает :)

Ответить
3

С ней ни одного нормального фильма нет

Ответить
1

Да? Я думал это какая-то артистка из Игры Престолов.

Ответить
5

Это из документалистики и исследований глубин.

Ответить
0

зря зря, актриса весьма поверхностная

"Не верю!"

Ответить
0

Квинтэссенция расизма в одном фото

Ответить
0

Интересно это тот самый микросовтовский ИИ которого пользователи сети пару лет назад научили плохому?

Ответить
1

Это Олег из Тинькофф там орудует))

Ответить
6

Угольки разбушевались

Ответить
5

Новые погромы будут?

Ответить
1

Массово удаляют пользовательские папки, а потом разносят компы

Ответить
1

Воруют картинки кроссовок из сети

Ответить
5

программу обвинили в расизме

И кто обвинил? Певица не знала о алгоритмах. Чьих-то ещё цитат тут нет

Ответить
2

А что-то все забыли про Харви Вайнштейна кажется, он там случайно не принуждал к кунилингусу афроамериканок, а то можно же ему сотку лет накинуть ещё было бы.

Ответить
9

Наоборот!! Он принуждал только белых! Чёртов расист😆😆😆😆😆

Ответить
–4

Почему же расист, он что только евреек принуждал?

Ответить
4

Разберитесь в вопросе - хотя бы на уровне википедии

Ответить
1

Согласен, я перепутал расу с национальностью. Чувствую себя неловко, но бывает.

Ответить
–2

Объясните-ка логику своего совета

Ответить
1

На колено, сссссука

Ответить
3

Цифры тоже расисткие.

Вот например цифра 4 очень обидная цыфра, я считаю

Ответить
2

Все эти нигры и являются самыми главными расистами. Эксплуатируют тему как и религиозники. 

Как вообще можно ИИ назвать расистом, это же просто программа.

Ответить
0

Но ее же кто-то создал???

Ответить
0

Ага, специально закодировал, как появятся две бабы из какой-то там группы, перепутать им фотки.
Какой зверский план.

Ответить
0

Не то, чтобы специально закодировал, а хреново натренировал датасет на не-белых лицах. Типа «да кому они негры нужны, и так сойдёт» думали в отделах разработки. Вполне понимаю сейчас эти возмущения.

Собственно, ПРОГРАММУ _расистской_ не называли.

Asked why Microsoft was deploying software that cannot tell mixed-race individuals apart, whether apparent racist bias could seep into deployments of the company’s artificial intelligence software by leading corporations, and whether the company would reconsider plans to replace the human editors with robots, a spokesman for the tech company said: “As soon as we became aware of this issue, we immediately took action to resolve it and have replaced the incorrect image.”

In advance of the publication of this article, staff at MSN were told to expect a negative article in the Guardian about alleged racist bias in the artificial intelligence software that will soon take their jobs.

А мы весело кинулись комментировать. 

Надо перепроверять источники.

Ответить
0

на не-белых лицах

Это уже сегрегация и расизм, тренировать ИИ по цвету кожи, значит закладывать основы для расовой розни ))

Сейчас для ИИ все люди — братья, а эта баба отделяет себя от общества.

Ответить
2

Современная интерпретация голого короля, вместо ребенка нейросеть.

Ответить
2

Прочел заголовок как "перепутал двух девиц"

Ответить
0

Скорее всего функции этого AI, это подобор фотографий по теме

Ответить
4

Когда у нас перестанут называть обычных ботов искусственным интеллектом?

Ответить
3

Когда за это перестанут давать деньги?

Ответить
1

предположу, что многие адекватные афроамериканцы против всей этой толерасткой истерии и стыдятся за представителей своего происхождения и вообще за эту ситуацию

Ответить
1

Никак не пойму, не просто так ведь вся эта хренота распространяется (я не про СМИ, с ними понятно). Кому изначально выгодно выгодно вот эти вот расистско/сексистские движухи в обществе 🧐

Ответить
1

"Разделяй и властвуй"

Ответить
1

Разумно кстати

Ответить
1

Тёмные хотят быть наравне с другими, но когда алгос выполнил это условие и сказал, что ты белая (какая разница?), то алгос плохой. Вы определитесь, вы все таки наравне с другими или другие.

Ответить
1

Разбудите когда нюрберский трибунал по SJW-скаму соберут

Ответить
1

Я тоже не вижу между ними разницы, что, я теперь расист? Может, все таки, дело в их одинаковости? По-моему, разим суют везде, где только можно. Я так же не увижу разницы между двумя людьми любой расы, если они будут настолько похожи. Леваки совсем кукухой уехали

Ответить
1

Хех опять расизм подъехал))) как же это все поднадоело)

Ответить
0

Мне интересно, что дальше?

Ответить
0

Алгоритм оценил сходство черт лица, как я понимаю. Оттенок кожи у них плюс-минус одинаковый. Ну так вообще причем тут расизм ?! У меня даже в голове нету такой мысли, как бы тут расизм мог быть уместен к ситуации. Как уже правильно сказали, алгоритм перепутал двух девушек с похожим лицом и оттенком кожи. Долбаные рассисто-нытики. Давайте уже и статью УК тогда новую придумаем: оскорбление чувств представителей смешанных расс по причине сходства с представителем схожей смешанной рассы.

Ответить
0

Когда AI восстанет, он заставит извинится за этот день, и за много других дней, одной постановкой на колени тут не отделаемся... 

Ответить
0

У меня у подруги Face ID среагировал на лицо ее сестры-двойняшки... искусственный ИНТЕЛЛЕКТ, говорили они))

Ответить
–1

У SJW в очередной раз пригорело

Ответить

Комментарии

null