Reuters: Amazon разработала ИИ для поиска сотрудников и отказалась от него из-за дискриминации женщин Статьи редакции
Проблема оказалась в выборке, по которой обучалась система, — большинство резюме в ней от кандидатов-мужчин.
Онлайн-ритейлер Amazon разработал алгоритм на основе искусственного интеллекта для автоматизации подбора кандидатов на работу, но в итоге отказался от системы из-за дискриминации соискателей-женщин. Об этом пишет Reuters со ссылкой на пять источников, знакомых с деталями проекта.
По данным агентства, в 2014 году компания собрала команду разработчиков в Шотландии и поставила перед ней задачу создать программу для поиска и отбора лучших кандидатов. «В компании хотели получить инструмент, который выберет пять лучших резюме из ста, чтобы потом нанять этих людей», — рассказал один из собеседников Reuters.
Ответственная группа разработала 500 компьютерных моделей, обученных искать резюме в открытых рекрутинговых базах и отбирать лучших кандидатов на основе 50 тысяч терминов из резюме прошлых соискателей в Amazon. Искусственный интеллект оценивал кандидатов по шкале от одного до пяти.
В 2015 году разработчики заметили, что система подбирает специалистов-женщин меньше, чем мужчин. Команда объяснила это тем, что алгоритм обучался на базе, в которую вошли резюме всех сотрудников Amazon за последние десять лет. Мужчин в выборке оказалось больше, чем женщин, поэтому искусственный интеллект пришёл к выводу, что кандидаты-мужчины предпочтительнее, пишет Reuters.
Amazon отредактировала алгоритм, но корректировка не давала гарантий, что он не будет дискриминировать кандидатов по другим признакам, поэтому к началу 2017 года компания решила отказаться от использования системы.
Представитель Amazon отказался комментировать неудачный опыт создания алгоритма и заявил, что при найме сотрудников компания руководствуется в том числе принципами равенства и разнообразия.
Что проще - уберите признак пола из базы?
А с чего Вы взяли, что алгоритм вообще учитывал признак пола? Скорее, учитывалась масса признаков, многие из которых косвенно связаны с полом. И вот именно тут разработчики оказались бессильны точечно откорректировать ситуацию, потому что объективная реальность имеет свойство просачиваться, как от неё не отмахивайся, а в случае с большими данными так вообще без вариантов. На вскидку, из тривиального: Женщины ходят в декрет? Ходят. Женщины обычно менее готовы к физической работе? Да. (а это ведь Amazon, они посылками и грузами занимаются) И никак это не поправишь какими-то коэффициентами. Один только вариант — тупо поставить квоты. Но тогда вся тонкая организация алгоритма идёт по одному месту.
Ну можно просто сократить выборку. Убрать какое то количество мужчин и всё. Но мне кажется на результат это не повлияет
Тогда упадёт качество кандидатов. Пат.