Редактор сайта на основе искусственного интеллекта от Microsoft перепутал двух певиц — программу обвинили в расизме Статьи редакции

Алгоритм, которым заменили живых редакторов, работает на сайте MSN всего неделю.

Алгоритм от Microsoft, занимающийся обработкой новостей на сайте MSN, перепутал двух певиц смешанной расы — компания заменила часть редакторов искусственным интеллектом в конце мая 2020 года. Об этом сообщает The Guardian.

Ли-Энн Пиннок (слева) и Джейд Фёрволл (справа) The Verge

Программа следит за тем, что появляется на главной странице MSN. Новость о том, что участница группы Little Mix Джейд Фёрволл рассказала об опыте столкновения с расизмом в школе, алгоритм опубликовал вместе с фотографией другой участницы группы — Ли-Энн Пиннок. Фёрволл прокомментировала ошибку на своей странице в «Историях» в Instagram.

MSN, если вы хотите копировать и публиковать у себя статьи из других источников, то вам стоит сначала убедиться, что вы берёте фото правильного участника группы смешанной расы.

Это дерьмо происходит со мной и Ли-Энн Пиннок постоянно. Меня оскорбляет то, что вы не можете различить двух «цветных» женщин в группе из четырёх человек. Старайтесь лучше!

Джейд Фёрволл, участница группы Little Mix

Певица скорее всего не знала, что новости на MSN отбирает ИИ, заключило издание.

«Как только мы узнали об этой проблеме, мы немедленно приняли меры для ее решения и заменили неправильную фотографию», — прокомментировали в Microsoft.

Компания поручила оставшимся «живым» редакторам сайта удалить негативную публикацию о роботе-редакторе, если алгоритм опубликует её в новостном сервисе, пишет издание со ссылкой на одного из сотрудников. «Со всеми этими антирасистскими протестами сейчас не время ошибаться», — отметил собеседник издания.

0
77 комментариев
Написать комментарий...
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Юрий Б.

Но ее же кто-то создал???

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Юрий Б.

Не то, чтобы специально закодировал, а хреново натренировал датасет на не-белых лицах. Типа «да кому они негры нужны, и так сойдёт» думали в отделах разработки. Вполне понимаю сейчас эти возмущения.

Собственно, ПРОГРАММУ _расистской_ не называли.

Asked why Microsoft was deploying software that cannot tell mixed-race individuals apart, whether apparent racist bias could seep into deployments of the company’s artificial intelligence software by leading corporations, and whether the company would reconsider plans to replace the human editors with robots, a spokesman for the tech company said: “As soon as we became aware of this issue, we immediately took action to resolve it and have replaced the incorrect image.”

In advance of the publication of this article, staff at MSN were told to expect a negative article in the Guardian about alleged racist bias in the artificial intelligence software that will soon take their jobs.

А мы весело кинулись комментировать. 

Надо перепроверять источники.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
74 комментария
Раскрывать всегда