Reuters: Amazon разработала ИИ для поиска сотрудников и отказалась от него из-за дискриминации женщин Статьи редакции
Проблема оказалась в выборке, по которой обучалась система, — большинство резюме в ней от кандидатов-мужчин.
Онлайн-ритейлер Amazon разработал алгоритм на основе искусственного интеллекта для автоматизации подбора кандидатов на работу, но в итоге отказался от системы из-за дискриминации соискателей-женщин. Об этом пишет Reuters со ссылкой на пять источников, знакомых с деталями проекта.
По данным агентства, в 2014 году компания собрала команду разработчиков в Шотландии и поставила перед ней задачу создать программу для поиска и отбора лучших кандидатов. «В компании хотели получить инструмент, который выберет пять лучших резюме из ста, чтобы потом нанять этих людей», — рассказал один из собеседников Reuters.
Ответственная группа разработала 500 компьютерных моделей, обученных искать резюме в открытых рекрутинговых базах и отбирать лучших кандидатов на основе 50 тысяч терминов из резюме прошлых соискателей в Amazon. Искусственный интеллект оценивал кандидатов по шкале от одного до пяти.
В 2015 году разработчики заметили, что система подбирает специалистов-женщин меньше, чем мужчин. Команда объяснила это тем, что алгоритм обучался на базе, в которую вошли резюме всех сотрудников Amazon за последние десять лет. Мужчин в выборке оказалось больше, чем женщин, поэтому искусственный интеллект пришёл к выводу, что кандидаты-мужчины предпочтительнее, пишет Reuters.
Amazon отредактировала алгоритм, но корректировка не давала гарантий, что он не будет дискриминировать кандидатов по другим признакам, поэтому к началу 2017 года компания решила отказаться от использования системы.
Представитель Amazon отказался комментировать неудачный опыт создания алгоритма и заявил, что при найме сотрудников компания руководствуется в том числе принципами равенства и разнообразия.
Оказалось, что очень трудно заставить автоматическую систему нарочно делать глупости, не нарушив целиком её работу.
Противоречие устройства общества и экономики будут только нарастать.
Сейчас нельзя уволить беременную, мать одиночку, теперь еще и предпенсионника, а почему нельзя? Почему надо снижать эффективность бизнеса, вместо адекватных пособий для них?
Надеюсь скоро общество дозреет до необходимости отделить мух от котлет, т.е. эффективности от всего остального.
так меня смешило всегда "а вдруг вы забеременнеете" на собеседованиях - 10% моих знакомых сверстников-мужчин не дожили до 30, многие и до 25, из декрета хоть возвращаются и предупреждают заранее)) а вообще если бы были адекватные условия ака полставки и доступные ясли мамаши бы не сливались дольше, чем на пару месяцев. В сша нет никаких декретных, (значит нужно работать), но есть измерение оплаты в часах в неделю, которые можно обговорить и сократить, и кучи яслей даже при фирмах и спортзалах. Родительство и работа довольно скользкая тема, но и вы-то все, ребята, не из инкубатора сразу большие вылупились, а тоже сначала ели песок с лопатки
Это используется в качестве аргумента на собеседовании? Кого же взять: мужчину, который "тоже умирает", или женщину, которая может забеременеть. Дайте-ка подумать. Она же из социальной группы с высоким процентом преждевременной смертности. Беру её!
хах, скорее как шутка. я искренне понимаю людей которые не хотят брать на работу "тёток" (тут как раз недавно всплывала куриная писанина "чему я научилась работая в мужском коллективе" - вот таких), есть и компании, где эйчары тетьки и работает куча змей и повышают там только если ты милая улыбчивая девочка (похуй что ничего не делаешь), есть и тетки эйчары которые считают, что техническая специальность должна быть занята только мужчиной, предрассудков в социуме достаточно, но когда передо мной сидит мужик и брыжжет своим мировоззрением, привитым папашей, который при нем всегда унижал мать и весь женский род, и его единственный аргумент "так вы же в декрет уйдете" хочется спросить а нахрена ты меня вообще позвал, написал бы, что для должности нужна справка о стерилизации. люди без психической травмы такие беседы не заводят
это вы цифры понть неспособны и приписываете мудчинам свой образ мышления
комментарий без попытки в логику или просто связную мысль, но опечатка про мудачину удачная.
Забавно, через все комменты проходит тема: «мужененавистничество» и «работа в госсекторе и защита его интересов».
По первому не хочу говорить.
По второму: вечная проблема ментального разрыва между гос и не связанным с ним бизнесом. Поработав и там и там это более непредвзято оценивается)