Редактор сайта на основе искусственного интеллекта от Microsoft перепутал двух певиц — программу обвинили в расизме Статьи редакции
Алгоритм, которым заменили живых редакторов, работает на сайте MSN всего неделю.
Алгоритм от Microsoft, занимающийся обработкой новостей на сайте MSN, перепутал двух певиц смешанной расы — компания заменила часть редакторов искусственным интеллектом в конце мая 2020 года. Об этом сообщает The Guardian.
Программа следит за тем, что появляется на главной странице MSN. Новость о том, что участница группы Little Mix Джейд Фёрволл рассказала об опыте столкновения с расизмом в школе, алгоритм опубликовал вместе с фотографией другой участницы группы — Ли-Энн Пиннок. Фёрволл прокомментировала ошибку на своей странице в «Историях» в Instagram.
Певица скорее всего не знала, что новости на MSN отбирает ИИ, заключило издание.
«Как только мы узнали об этой проблеме, мы немедленно приняли меры для ее решения и заменили неправильную фотографию», — прокомментировали в Microsoft.
Компания поручила оставшимся «живым» редакторам сайта удалить негативную публикацию о роботе-редакторе, если алгоритм опубликует её в новостном сервисе, пишет издание со ссылкой на одного из сотрудников. «Со всеми этими антирасистскими протестами сейчас не время ошибаться», — отметил собеседник издания.
Комментарий недоступен
Но ее же кто-то создал???
Комментарий недоступен
Не то, чтобы специально закодировал, а хреново натренировал датасет на не-белых лицах. Типа «да кому они негры нужны, и так сойдёт» думали в отделах разработки. Вполне понимаю сейчас эти возмущения.
Собственно, ПРОГРАММУ _расистской_ не называли.
Asked why Microsoft was deploying software that cannot tell mixed-race individuals apart, whether apparent racist bias could seep into deployments of the company’s artificial intelligence software by leading corporations, and whether the company would reconsider plans to replace the human editors with robots, a spokesman for the tech company said: “As soon as we became aware of this issue, we immediately took action to resolve it and have replaced the incorrect image.”
In advance of the publication of this article, staff at MSN were told to expect a negative article in the Guardian about alleged racist bias in the artificial intelligence software that will soon take their jobs.
А мы весело кинулись комментировать.
Надо перепроверять источники.
Комментарий недоступен