Reuters: Amazon разработала ИИ для поиска сотрудников и отказалась от него из-за дискриминации женщин Статьи редакции
Проблема оказалась в выборке, по которой обучалась система, — большинство резюме в ней от кандидатов-мужчин.
Онлайн-ритейлер Amazon разработал алгоритм на основе искусственного интеллекта для автоматизации подбора кандидатов на работу, но в итоге отказался от системы из-за дискриминации соискателей-женщин. Об этом пишет Reuters со ссылкой на пять источников, знакомых с деталями проекта.
По данным агентства, в 2014 году компания собрала команду разработчиков в Шотландии и поставила перед ней задачу создать программу для поиска и отбора лучших кандидатов. «В компании хотели получить инструмент, который выберет пять лучших резюме из ста, чтобы потом нанять этих людей», — рассказал один из собеседников Reuters.
Ответственная группа разработала 500 компьютерных моделей, обученных искать резюме в открытых рекрутинговых базах и отбирать лучших кандидатов на основе 50 тысяч терминов из резюме прошлых соискателей в Amazon. Искусственный интеллект оценивал кандидатов по шкале от одного до пяти.
В 2015 году разработчики заметили, что система подбирает специалистов-женщин меньше, чем мужчин. Команда объяснила это тем, что алгоритм обучался на базе, в которую вошли резюме всех сотрудников Amazon за последние десять лет. Мужчин в выборке оказалось больше, чем женщин, поэтому искусственный интеллект пришёл к выводу, что кандидаты-мужчины предпочтительнее, пишет Reuters.
Amazon отредактировала алгоритм, но корректировка не давала гарантий, что он не будет дискриминировать кандидатов по другим признакам, поэтому к началу 2017 года компания решила отказаться от использования системы.
Представитель Amazon отказался комментировать неудачный опыт создания алгоритма и заявил, что при найме сотрудников компания руководствуется в том числе принципами равенства и разнообразия.
Оказалось, что очень трудно заставить автоматическую систему нарочно делать глупости, не нарушив целиком её работу.
Противоречие устройства общества и экономики будут только нарастать.
Сейчас нельзя уволить беременную, мать одиночку, теперь еще и предпенсионника, а почему нельзя? Почему надо снижать эффективность бизнеса, вместо адекватных пособий для них?
Надеюсь скоро общество дозреет до необходимости отделить мух от котлет, т.е. эффективности от всего остального.
так меня смешило всегда "а вдруг вы забеременнеете" на собеседованиях - 10% моих знакомых сверстников-мужчин не дожили до 30, многие и до 25, из декрета хоть возвращаются и предупреждают заранее)) а вообще если бы были адекватные условия ака полставки и доступные ясли мамаши бы не сливались дольше, чем на пару месяцев. В сша нет никаких декретных, (значит нужно работать), но есть измерение оплаты в часах в неделю, которые можно обговорить и сократить, и кучи яслей даже при фирмах и спортзалах. Родительство и работа довольно скользкая тема, но и вы-то все, ребята, не из инкубатора сразу большие вылупились, а тоже сначала ели песок с лопатки
у тебя странный круг знакомых. У меня все дожили до 30. А вот в декрет уходили из всех компании. Бременем лежали на бюджете компании.
не надо сочинять, все пособия - декретные, по уходу и пр платит фсс, а не фирма
Только фсс платит не по факту ухода в декрет и в отпуск по уходу за ребёнком, а после возмещая компании. С них нужно эти деньги ещё выбить. А это называется кассовый разрыв, ибо сотрудник(-ца) висит на балансе компании и расходуется зарплатный фонд, а профита она не приносит. Так что ни одной компании это не выгодно.
ну это давайте не вина мадам, можно было бы сразу в мфц оформлять всё так бы и делали, но поди не из-за одной беременной тетки ввели систему проведения соцвыплат через бухгалтерию трудоустроенного. кстати от этого бага хотят избавиться, уже запустили "пилотный проект" в паре регионов по выплатам напрямую через фсс, скоро и маленьким бизнесам и переживать будет неочем никто их не обанкротит)
В Самарской области давно уже так. Я декретные напрямую получал из ФСС
Никто не вменяет это в "вину мадам". Just business же. Суть в том что это не выгодно. И кандидат женского пола может точно так же справляться с обязанностями как и мужчина, но из-за бюрократической машины в России кандидат мужчина априори расценивается приоритетней. Так не должно быть, но это так. Владелец бизнеса думает о бизнесе в первую очередь, а не о равноправии.