Reuters: Amazon разработала ИИ для поиска сотрудников и отказалась от него из-за дискриминации женщин Статьи редакции
Проблема оказалась в выборке, по которой обучалась система, — большинство резюме в ней от кандидатов-мужчин.
Онлайн-ритейлер Amazon разработал алгоритм на основе искусственного интеллекта для автоматизации подбора кандидатов на работу, но в итоге отказался от системы из-за дискриминации соискателей-женщин. Об этом пишет Reuters со ссылкой на пять источников, знакомых с деталями проекта.
По данным агентства, в 2014 году компания собрала команду разработчиков в Шотландии и поставила перед ней задачу создать программу для поиска и отбора лучших кандидатов. «В компании хотели получить инструмент, который выберет пять лучших резюме из ста, чтобы потом нанять этих людей», — рассказал один из собеседников Reuters.
Ответственная группа разработала 500 компьютерных моделей, обученных искать резюме в открытых рекрутинговых базах и отбирать лучших кандидатов на основе 50 тысяч терминов из резюме прошлых соискателей в Amazon. Искусственный интеллект оценивал кандидатов по шкале от одного до пяти.
В 2015 году разработчики заметили, что система подбирает специалистов-женщин меньше, чем мужчин. Команда объяснила это тем, что алгоритм обучался на базе, в которую вошли резюме всех сотрудников Amazon за последние десять лет. Мужчин в выборке оказалось больше, чем женщин, поэтому искусственный интеллект пришёл к выводу, что кандидаты-мужчины предпочтительнее, пишет Reuters.
Amazon отредактировала алгоритм, но корректировка не давала гарантий, что он не будет дискриминировать кандидатов по другим признакам, поэтому к началу 2017 года компания решила отказаться от использования системы.
Представитель Amazon отказался комментировать неудачный опыт создания алгоритма и заявил, что при найме сотрудников компания руководствуется в том числе принципами равенства и разнообразия.
Оказалось, что очень трудно заставить автоматическую систему нарочно делать глупости, не нарушив целиком её работу.
Противоречие устройства общества и экономики будут только нарастать.
Сейчас нельзя уволить беременную, мать одиночку, теперь еще и предпенсионника, а почему нельзя? Почему надо снижать эффективность бизнеса, вместо адекватных пособий для них?
Надеюсь скоро общество дозреет до необходимости отделить мух от котлет, т.е. эффективности от всего остального.
так меня смешило всегда "а вдруг вы забеременнеете" на собеседованиях - 10% моих знакомых сверстников-мужчин не дожили до 30, многие и до 25, из декрета хоть возвращаются и предупреждают заранее)) а вообще если бы были адекватные условия ака полставки и доступные ясли мамаши бы не сливались дольше, чем на пару месяцев. В сша нет никаких декретных, (значит нужно работать), но есть измерение оплаты в часах в неделю, которые можно обговорить и сократить, и кучи яслей даже при фирмах и спортзалах. Родительство и работа довольно скользкая тема, но и вы-то все, ребята, не из инкубатора сразу большие вылупились, а тоже сначала ели песок с лопатки
у тебя странный круг знакомых. У меня все дожили до 30. А вот в декрет уходили из всех компании. Бременем лежали на бюджете компании.
не надо сочинять, все пособия - декретные, по уходу и пр платит фсс, а не фирма
Про кассовый разрыв уже написали. Во-вторых, при беременности есть масса ограничений (нельзя отправлять в командировки с беременности до аж 3х лет ребенка, нельзя работать за кампутером более 4х часов в день. В третьих, все походы к врачу - больничные (сроком до 3х дней) оплачивает работодатель (а их ОЧЕНЬ немало). Ну и коронное - нельзя уволить.
ах за компуктером, мой дорогой, вообще "нельзя" по 8(10-12) часов подряд работать. командировки чисто по желанию самого сотрудника, к тому же должность с командировками это отдельная тема на нее впринципе не каждый согласен, ах больничные, какая печаль, а что, кроме беременных никто больничные никогда в жизни не берет? есть много людей со слабым иммунитетом или астмой или камни в почках или гипертония что угодно - фактор здоровья имеют все человеки или даже просто личные дела и проблемы - пожилые или даже неочень родители, например, мама вам позвонит "ох сашенька мне плохо приедь пожалуйста" а вы ей "буду я еще всякие отгулы и больничные как какая-то беременная шкура брать! сама разберешься хренова баба!"
так себе аргументы.
все пальцы высосаны, но и их не хватило.
ну а от кассового разрыва (которого конечно же не бывает, при неравномерной оплате проектов, какая фантастика!) вас скоро избавят, нововведение уже тестируют в регионах.
Я описал ситуацию как юрист. Пожалуйста объясните почему нельзя сотруднику работать за ЭВМ полный рабочий день? Ограничение в 4 часа у беременных (а иногда по показаниям врача и до 2 часов или вообще нельзя) описано в трудовом законодательстве. Здесь Вы не правы. Что касается командировок - если работа связана с возможностью командировок - сотрудник ОБЯЗАН в них выезжать, а если он откажется - увольнение по статье. Опять-таки трудовой кодекс РФ, в моих компаниях многократно проверено, в том числе с последующими проверками трудовых инспекций и судами. Вторая Ваша фактологическая ошибка. Про сравнение с болезненными сотрудниками и прочими личными выпадами - просто мусор и случайный набор слов.
В свою защиту скажу что в моих российских компаниях 85% руководителей - женщины. Но эти люди скорее транслируют нетипичный для русских широт паттерн. Не давят на социалку и обязанности работодателя, а берут свою судьбу в свои руки и зарабатывают на порядок больше "социально защищенных" но одновременно демотивированных к труду сотрудниц. Хотя мы таких нежных и не держим. У нас все женщины работают и зарабатывают наравне с мужчинами, равенство так сказать.
Потому что регламентированы перерывы в зависимости от количества выполняемой за ЭВМ работы.
перерывы - это перерывы, а не ограничение. они в любой профессии имеются.
Только фсс платит не по факту ухода в декрет и в отпуск по уходу за ребёнком, а после возмещая компании. С них нужно эти деньги ещё выбить. А это называется кассовый разрыв, ибо сотрудник(-ца) висит на балансе компании и расходуется зарплатный фонд, а профита она не приносит. Так что ни одной компании это не выгодно.
ну это давайте не вина мадам, можно было бы сразу в мфц оформлять всё так бы и делали, но поди не из-за одной беременной тетки ввели систему проведения соцвыплат через бухгалтерию трудоустроенного. кстати от этого бага хотят избавиться, уже запустили "пилотный проект" в паре регионов по выплатам напрямую через фсс, скоро и маленьким бизнесам и переживать будет неочем никто их не обанкротит)
В Самарской области давно уже так. Я декретные напрямую получал из ФСС
Никто не вменяет это в "вину мадам". Just business же. Суть в том что это не выгодно. И кандидат женского пола может точно так же справляться с обязанностями как и мужчина, но из-за бюрократической машины в России кандидат мужчина априори расценивается приоритетней. Так не должно быть, но это так. Владелец бизнеса думает о бизнесе в первую очередь, а не о равноправии.
знакомый уходит с работы (лид), из-за этого половина команды тоже уходит, в итоге разрывается контракт (и это не единичный случай даже у моих знакомых). за 2 недели сложно найти даже одного квалифицированного сотрудника, на руководящую должность — тем более. любой уход сеньоров и лидов куда серьёзнее девушки, которая ушла в декрет, о декрете, по крайней мере, вы знаете сильно заранее.
А у меня еще никто в моем кругу знакомых и друзей до 30 не дожил.
Наверное, потому что нам всем примерно по 20-25