Reuters: Amazon разработала ИИ для поиска сотрудников и отказалась от него из-за дискриминации женщин Статьи редакции
Проблема оказалась в выборке, по которой обучалась система, — большинство резюме в ней от кандидатов-мужчин.
Онлайн-ритейлер Amazon разработал алгоритм на основе искусственного интеллекта для автоматизации подбора кандидатов на работу, но в итоге отказался от системы из-за дискриминации соискателей-женщин. Об этом пишет Reuters со ссылкой на пять источников, знакомых с деталями проекта.
По данным агентства, в 2014 году компания собрала команду разработчиков в Шотландии и поставила перед ней задачу создать программу для поиска и отбора лучших кандидатов. «В компании хотели получить инструмент, который выберет пять лучших резюме из ста, чтобы потом нанять этих людей», — рассказал один из собеседников Reuters.
Ответственная группа разработала 500 компьютерных моделей, обученных искать резюме в открытых рекрутинговых базах и отбирать лучших кандидатов на основе 50 тысяч терминов из резюме прошлых соискателей в Amazon. Искусственный интеллект оценивал кандидатов по шкале от одного до пяти.
В 2015 году разработчики заметили, что система подбирает специалистов-женщин меньше, чем мужчин. Команда объяснила это тем, что алгоритм обучался на базе, в которую вошли резюме всех сотрудников Amazon за последние десять лет. Мужчин в выборке оказалось больше, чем женщин, поэтому искусственный интеллект пришёл к выводу, что кандидаты-мужчины предпочтительнее, пишет Reuters.
Amazon отредактировала алгоритм, но корректировка не давала гарантий, что он не будет дискриминировать кандидатов по другим признакам, поэтому к началу 2017 года компания решила отказаться от использования системы.
Представитель Amazon отказался комментировать неудачный опыт создания алгоритма и заявил, что при найме сотрудников компания руководствуется в том числе принципами равенства и разнообразия.
Оказалось, что очень трудно заставить автоматическую систему нарочно делать глупости, не нарушив целиком её работу.
Противоречие устройства общества и экономики будут только нарастать.
Сейчас нельзя уволить беременную, мать одиночку, теперь еще и предпенсионника, а почему нельзя? Почему надо снижать эффективность бизнеса, вместо адекватных пособий для них?
Надеюсь скоро общество дозреет до необходимости отделить мух от котлет, т.е. эффективности от всего остального.
Ну, тогда наиболее справедливым выглядит концепция "безусловного дохода", чтобы неэффективные и немотивированные люди не занимали рабочие места.
Фсмыслий?
Просто не брать неэффективных и немотивированных на работу. Голод и отсутствие средств к существованию вполне заебатая мотивация.
И получишь еще одну Центральную Африку.
Фсмыслий?Чем больше человеку отказывает общество (неважно в чем), тем больше он его ненавидит. Позже все это оборачивается в публичные акты агрессии. Потому что забытые и отвергнутые, копят обиду и злость. Именно отсюда и вырастают будущие бандиты, маньяки, насильники, наркодиллеры и проститутки. Некоторые могут просто и суицидом закончить (кол-во суицидов, в мире капитализма, неожиданно увеличивается).
Я не готов из своего кармана оплачивать жизнь тех, кто не хочет обустраивать её своими силами. Если вы готовы - я не против.
Проблема в том, что вы в любом случае будете из своего кармана оплачивать жизнь тех, кто не может или не хочет обустраивать ее своими силами. Вопрос лишь в сумме затрат и степени добровольности. Грубо говоря, вы, являясь компетентным сотрудником, своим трудом оплачиваете существование некомпетентных. При этом количество вреда, наносимого некомпетентными сотрудниками, превосходит получаемую от них пользу.
Частный пример: в государственных вузах содержится огромное количество дармоедов пенсионного возраста, читающих лекции по книжкам сорокалетней давности или просто перекладывающих бумажки с места на место. Эти люди не эффективны, но они занимают штатную должность, что не позволяет нанять на их место молодых и эффективных преподавателей (и назначить им нормальную зарплату, получив дополнительные средства от сокращения раздутых штатов всяких методистов и прочего бесполезного балласта). И вы, как человек, платящий налоги, обеспечиваете содержание всех этих дармоедов на госслужбе.
При этом проблема наблюдается не только в государственном секторе, но и в частном (хоть и в меньшей степени), когда Аллу Петровну из бухгалтерии не увольняют только потому, что у неё трое детей и ипотека, а то, что Алла Петровна дико косячит, и ее косяки потом приходится расхлебывать всей компании - опять же, в расчет редко когда берется.
И это я не говорю о случаях, когда обозленные люмпены тупо будут вас грабить, потому что у вас - есть, а у них - нету.
читающих лекции по книжкам сорокалетней давности
Очень спорное утверждение. По крайней мере вспоминая свою выпускающую кафедру, могу отметить, что пожилые преподаватели относились к своей работе гораздо ответственнее. Как к преподавательской, так и научной. Наиболее заслуживающие внимания статьи тоже писались в нас в основном пенсионерами, а молодёжь (сорокалетняя) занималась имитацией научной деятельности для выполнения требуемого минимума. Возможно, конечно, это проблема только моей бывшей кафедры и в других областях не так.
Не скажу за какой-нибудь физфак или там геологию, но с IT-образованием у нас жопа. Я прямо сейчас учусь в одном из лучших и крупнейших региональных ВУЗов в магистратуре, специальность Информационные системы и технологии (просто стал нужен формальный диплом). На курсе по языкам программирования нас бабушка-преподавательница в возрасте "дважды заслуженный пенсионер" учила писать пузырьковую сортировку и обход дерева. При этом код на доске писала из учебника по С#, а пример рабочей программы с визуализацией показывала на Дельфи, потому что когда-то в далекие годы она как эту программу на дельфях написала, так до сих пор ей и пользуется. И полфакультета таких "заслуженных преподавателей", препод по "веб-разработке" возрастом чуть за полтинник не может прочесть собственный говнокод на html, про существование таких вещей, как Jquery он если и слышал, то краем уха. Про то, как нам теорию баз данных преподавали, я вообще молчу, видно, что лектор этот набор лекций лектор как составил лет сорок назад, так и читает их без изменений.
А одна из немногих толковых преподавателей, молодая девушка после аспирантуры, ведущая курс "Мобильная разработка", была дико рада, что к ней на пары хожу я и ещё два человека с моей группы (хотя этого предмета у нас в расписании нет, нам просто интересно), потому что та группа, у которой этот предмет в расписании таки стоит, забила на эту пару в полном составе, и я их понимаю - предмет поставлен в жутко неудобное время, в аудитории, больше похожей на склад, где вообще ни компьютеров, ни проектора нет, только четыре разваливающихся стола и старая маркерная доска. Почему? Потому что все компьютерные лаборатории на это время разобраны более "заслуженными" и "маститыми" преподавателями.
А практику у нас, айтишников, поставили вести вообще дедушка с матфака. Он, может быть, крутой математик, который еще Келдыша живым застал, но он даже электропочтой пользуется с трудом, требуя приносить ему все бумаги на флешке.