Reuters: Amazon разработала ИИ для поиска сотрудников и отказалась от него из-за дискриминации женщин Статьи редакции

Проблема оказалась в выборке, по которой обучалась система, — большинство резюме в ней от кандидатов-мужчин.

Онлайн-ритейлер Amazon разработал алгоритм на основе искусственного интеллекта для автоматизации подбора кандидатов на работу, но в итоге отказался от системы из-за дискриминации соискателей-женщин. Об этом пишет Reuters со ссылкой на пять источников, знакомых с деталями проекта.

По данным агентства, в 2014 году компания собрала команду разработчиков в Шотландии и поставила перед ней задачу создать программу для поиска и отбора лучших кандидатов. «В компании хотели получить инструмент, который выберет пять лучших резюме из ста, чтобы потом нанять этих людей», — рассказал один из собеседников Reuters.

Ответственная группа разработала 500 компьютерных моделей, обученных искать резюме в открытых рекрутинговых базах и отбирать лучших кандидатов на основе 50 тысяч терминов из резюме прошлых соискателей в Amazon. Искусственный интеллект оценивал кандидатов по шкале от одного до пяти.

В 2015 году разработчики заметили, что система подбирает специалистов-женщин меньше, чем мужчин. Команда объяснила это тем, что алгоритм обучался на базе, в которую вошли резюме всех сотрудников Amazon за последние десять лет. Мужчин в выборке оказалось больше, чем женщин, поэтому искусственный интеллект пришёл к выводу, что кандидаты-мужчины предпочтительнее, пишет Reuters.

Amazon отредактировала алгоритм, но корректировка не давала гарантий, что он не будет дискриминировать кандидатов по другим признакам, поэтому к началу 2017 года компания решила отказаться от использования системы.

Представитель Amazon отказался комментировать неудачный опыт создания алгоритма и заявил, что при найме сотрудников компания руководствуется в том числе принципами равенства и разнообразия.

0
186 комментариев
Написать комментарий...
Kirill Pankin

Оказалось, что очень трудно заставить автоматическую систему нарочно делать глупости, не нарушив целиком её работу.

Ответить
Развернуть ветку
Денис Демидов

Противоречие устройства общества и экономики будут только нарастать.
Сейчас нельзя уволить беременную, мать одиночку, теперь еще и предпенсионника, а почему нельзя? Почему надо снижать эффективность бизнеса, вместо адекватных пособий для них?
Надеюсь скоро общество дозреет до необходимости отделить мух от котлет, т.е. эффективности от всего остального.

Ответить
Развернуть ветку
Alexey Kolesnikov

Ну, тогда наиболее справедливым выглядит концепция "безусловного дохода", чтобы неэффективные и немотивированные люди не занимали рабочие места.

Ответить
Развернуть ветку
DxdV

Фсмыслий?

Просто не брать неэффективных и немотивированных на работу. Голод и отсутствие средств к существованию вполне заебатая мотивация.

Ответить
Развернуть ветку
Unreal Person
Голод и отсутствие средств к существованию вполне заебатая мотивация.

И получишь еще одну Центральную Африку.

Фсмыслий?

Чем больше человеку отказывает общество (неважно в чем), тем больше он его ненавидит. Позже все это оборачивается в публичные акты агрессии. Потому что забытые и отвергнутые, копят обиду и злость. Именно отсюда и вырастают будущие бандиты, маньяки, насильники, наркодиллеры и проститутки. Некоторые могут просто и суицидом закончить (кол-во суицидов, в мире капитализма, неожиданно увеличивается).

Ответить
Развернуть ветку
DxdV

Я не готов из своего кармана оплачивать жизнь тех, кто не хочет обустраивать её своими силами. Если вы готовы - я не против.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Преступность есть везде и всегда есть риск не дойти до дома вечером, если бы оплата базовых нужд бомжей гарантировала мне стопроцентную безопасность, я с вами бы согласился. Только она не гарантирует даже 90-процентную.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Совершенно ничего не гарантирует.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

И ничего не будет гарантировать, поэтому я и говорю, что выплаты нежелающим и неумеющим работать мою жизнь безопаснее не сделают.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Я попугай что ли? Ничего не сделает, кроме того что лентяи и идиоты получат возможность жить за чужой счёт.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Никак не быть, если человека не мотивирует на труд даже такое - то он сам в ответе за то, что с ним произойдёт.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV
откуда у государства деньги?

Деньги у государства появляются благодаря труду его граждан. Государство инвестирует в своих граждан для того, чтобы эти инвестиции окупились в виде того, что эти граждане затем произведут для государства (и себя в том числе). Инвестиции в того, кто не производит ничего ПО СВОЕЙ ВИНЕ (я не беру в расчет инвалидов и прочие недееспособные категории граждан, их нужно поддерживать и я лично готов это делать), то госудаство ничего ему не должно.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

У меня высшее образование, я работаю и плачу налоги. Если ты собираешься сделать упор на возраст - не прокатит, вокруг меня множество людей в возрасте 50-60+, которые точно так же прекрасно работают и отлично себя чувствуют.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Главное чтобы ты понимал, а время покажет к каким результатам это приведёт.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Я уже ответил как решать эти конфликты - частной инициативой. Фондами, группами волонтёров, всеми желающими. Вперёд. В нашей стране фондам частенько ставят палки в колёса, но это не проблема предлагаемого мной решения, а проблема нашей законодательной системы.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

И говорить о том, что это эффективный механизм - просто смешно. Когда ты работаешь в условиях отсутствия конкуренции и в условиях, при которых ВСЕГДА можешь достать ещё денег, если они вдруг закончились - ни о какой эффективности речи даже не идёт.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Фондами, волонтёрскими группами. Я реально попугай? Посмотри скольким людям помогли фонды вроде "Подари жизнь" и поисково-спасательные группы вроде "Лиза Алерт" (и это в наших драконовских условиях существования таких фондов).

Посмотри как расходует средства фонд Билла и Мелинды Гейтс, какие проекты они смогли довести до логического конца и какие технологии развить до состояния внедрения. Посмотри на SpaceX на худой конец, какие достижения были сделаны усилиями частной компании и что ещё вытворяют их конкуренты типа проектов Безоса.

А потом расскажи мне про то, какая эффективность решения проблемы со стороны государства. Рост числа бедных в России ускоренными темпами? Или может быть тотальная эпидемия ВИЧ и СПИД, которая уже привела нас по цифрам на уровень развивающихся африканских стран? Вот это и есть та самая эффективность, с которой государство решает вопросы.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Моя позиция такая: помогать тем, кто сам себе помогать отказывается должны только те, кто считает это целесообразным.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Что значит "а если"? Все считают так как я? Нет. Так зачем делать необоснованные предположения ради красивого словца? А если завтра мы все умрём?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Какой бред. Я выбрал свою профессию и в рамках своей профессии решаю задачи. Кто-то выбрал иной путь и следует ему. Глупо упрекать меня в том, что я не думаю о том, о чём думать и не собирался. Ты что лично сделал для решения проблемы? Что придумал, в чём поучаствовал? Отдал свои деньги в управление системе, которая не умеет эффективно ими распоряжаться? Ну поздравляю, снял груз с души простым и забавным образом, т.е. по сути тоже снял с себя необходимость думать о том, как решить проблему. "Я налоги заплатил, моя совесть чиста, дальше пусть они разбираются".

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Я же не прошу тебя делать мою работу, правильно? Ты часто помогаешь дворникам или водителям автобусов порулить пока он отдыхает? Или может ты периодически подменяешь сотрудников колл-центров? А ведь все эти люди решают проблемы.

Так вот диверсификация труда придумана именно для того, чтобы проблемы решали специалисты и чтобы бухгалтер не думал о привлечении клиентов, а проджекты не думали о бухгалтерии. Мне правда нужно объяснять как устроено делегирование и почему не нужно одному человеку думать сразу обо всём? Или мы опустим это как очевидный момент?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Тогда на этом и закончим, мне в целом без разницы что ты понял)

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Рад

Ответить
Развернуть ветку
183 комментария
Раскрывать всегда