Reuters: Amazon разработала ИИ для поиска сотрудников и отказалась от него из-за дискриминации женщин Статьи редакции

Проблема оказалась в выборке, по которой обучалась система, — большинство резюме в ней от кандидатов-мужчин.

Онлайн-ритейлер Amazon разработал алгоритм на основе искусственного интеллекта для автоматизации подбора кандидатов на работу, но в итоге отказался от системы из-за дискриминации соискателей-женщин. Об этом пишет Reuters со ссылкой на пять источников, знакомых с деталями проекта.

По данным агентства, в 2014 году компания собрала команду разработчиков в Шотландии и поставила перед ней задачу создать программу для поиска и отбора лучших кандидатов. «В компании хотели получить инструмент, который выберет пять лучших резюме из ста, чтобы потом нанять этих людей», — рассказал один из собеседников Reuters.

Ответственная группа разработала 500 компьютерных моделей, обученных искать резюме в открытых рекрутинговых базах и отбирать лучших кандидатов на основе 50 тысяч терминов из резюме прошлых соискателей в Amazon. Искусственный интеллект оценивал кандидатов по шкале от одного до пяти.

В 2015 году разработчики заметили, что система подбирает специалистов-женщин меньше, чем мужчин. Команда объяснила это тем, что алгоритм обучался на базе, в которую вошли резюме всех сотрудников Amazon за последние десять лет. Мужчин в выборке оказалось больше, чем женщин, поэтому искусственный интеллект пришёл к выводу, что кандидаты-мужчины предпочтительнее, пишет Reuters.

Amazon отредактировала алгоритм, но корректировка не давала гарантий, что он не будет дискриминировать кандидатов по другим признакам, поэтому к началу 2017 года компания решила отказаться от использования системы.

Представитель Amazon отказался комментировать неудачный опыт создания алгоритма и заявил, что при найме сотрудников компания руководствуется в том числе принципами равенства и разнообразия.

0
186 комментариев
Написать комментарий...
Kirill Pankin

Оказалось, что очень трудно заставить автоматическую систему нарочно делать глупости, не нарушив целиком её работу.

Ответить
Развернуть ветку
Денис Демидов

Противоречие устройства общества и экономики будут только нарастать.
Сейчас нельзя уволить беременную, мать одиночку, теперь еще и предпенсионника, а почему нельзя? Почему надо снижать эффективность бизнеса, вместо адекватных пособий для них?
Надеюсь скоро общество дозреет до необходимости отделить мух от котлет, т.е. эффективности от всего остального.

Ответить
Развернуть ветку
Alexey Kolesnikov

Ну, тогда наиболее справедливым выглядит концепция "безусловного дохода", чтобы неэффективные и немотивированные люди не занимали рабочие места.

Ответить
Развернуть ветку
DxdV

Фсмыслий?

Просто не брать неэффективных и немотивированных на работу. Голод и отсутствие средств к существованию вполне заебатая мотивация.

Ответить
Развернуть ветку
Unreal Person
Голод и отсутствие средств к существованию вполне заебатая мотивация.

И получишь еще одну Центральную Африку.

Фсмыслий?

Чем больше человеку отказывает общество (неважно в чем), тем больше он его ненавидит. Позже все это оборачивается в публичные акты агрессии. Потому что забытые и отвергнутые, копят обиду и злость. Именно отсюда и вырастают будущие бандиты, маньяки, насильники, наркодиллеры и проститутки. Некоторые могут просто и суицидом закончить (кол-во суицидов, в мире капитализма, неожиданно увеличивается).

Ответить
Развернуть ветку
DxdV

Я не готов из своего кармана оплачивать жизнь тех, кто не хочет обустраивать её своими силами. Если вы готовы - я не против.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Преступность есть везде и всегда есть риск не дойти до дома вечером, если бы оплата базовых нужд бомжей гарантировала мне стопроцентную безопасность, я с вами бы согласился. Только она не гарантирует даже 90-процентную.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Совершенно ничего не гарантирует.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

И ничего не будет гарантировать, поэтому я и говорю, что выплаты нежелающим и неумеющим работать мою жизнь безопаснее не сделают.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Я попугай что ли? Ничего не сделает, кроме того что лентяи и идиоты получат возможность жить за чужой счёт.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Никак не быть, если человека не мотивирует на труд даже такое - то он сам в ответе за то, что с ним произойдёт.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV
откуда у государства деньги?

Деньги у государства появляются благодаря труду его граждан. Государство инвестирует в своих граждан для того, чтобы эти инвестиции окупились в виде того, что эти граждане затем произведут для государства (и себя в том числе). Инвестиции в того, кто не производит ничего ПО СВОЕЙ ВИНЕ (я не беру в расчет инвалидов и прочие недееспособные категории граждан, их нужно поддерживать и я лично готов это делать), то госудаство ничего ему не должно.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

У меня высшее образование, я работаю и плачу налоги. Если ты собираешься сделать упор на возраст - не прокатит, вокруг меня множество людей в возрасте 50-60+, которые точно так же прекрасно работают и отлично себя чувствуют.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Главное чтобы ты понимал, а время покажет к каким результатам это приведёт.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Я уже ответил как решать эти конфликты - частной инициативой. Фондами, группами волонтёров, всеми желающими. Вперёд. В нашей стране фондам частенько ставят палки в колёса, но это не проблема предлагаемого мной решения, а проблема нашей законодательной системы.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

И говорить о том, что это эффективный механизм - просто смешно. Когда ты работаешь в условиях отсутствия конкуренции и в условиях, при которых ВСЕГДА можешь достать ещё денег, если они вдруг закончились - ни о какой эффективности речи даже не идёт.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Фондами, волонтёрскими группами. Я реально попугай? Посмотри скольким людям помогли фонды вроде "Подари жизнь" и поисково-спасательные группы вроде "Лиза Алерт" (и это в наших драконовских условиях существования таких фондов).

Посмотри как расходует средства фонд Билла и Мелинды Гейтс, какие проекты они смогли довести до логического конца и какие технологии развить до состояния внедрения. Посмотри на SpaceX на худой конец, какие достижения были сделаны усилиями частной компании и что ещё вытворяют их конкуренты типа проектов Безоса.

А потом расскажи мне про то, какая эффективность решения проблемы со стороны государства. Рост числа бедных в России ускоренными темпами? Или может быть тотальная эпидемия ВИЧ и СПИД, которая уже привела нас по цифрам на уровень развивающихся африканских стран? Вот это и есть та самая эффективность, с которой государство решает вопросы.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Моя позиция такая: помогать тем, кто сам себе помогать отказывается должны только те, кто считает это целесообразным.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Что значит "а если"? Все считают так как я? Нет. Так зачем делать необоснованные предположения ради красивого словца? А если завтра мы все умрём?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Какой бред. Я выбрал свою профессию и в рамках своей профессии решаю задачи. Кто-то выбрал иной путь и следует ему. Глупо упрекать меня в том, что я не думаю о том, о чём думать и не собирался. Ты что лично сделал для решения проблемы? Что придумал, в чём поучаствовал? Отдал свои деньги в управление системе, которая не умеет эффективно ими распоряжаться? Ну поздравляю, снял груз с души простым и забавным образом, т.е. по сути тоже снял с себя необходимость думать о том, как решить проблему. "Я налоги заплатил, моя совесть чиста, дальше пусть они разбираются".

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Я же не прошу тебя делать мою работу, правильно? Ты часто помогаешь дворникам или водителям автобусов порулить пока он отдыхает? Или может ты периодически подменяешь сотрудников колл-центров? А ведь все эти люди решают проблемы.

Так вот диверсификация труда придумана именно для того, чтобы проблемы решали специалисты и чтобы бухгалтер не думал о привлечении клиентов, а проджекты не думали о бухгалтерии. Мне правда нужно объяснять как устроено делегирование и почему не нужно одному человеку думать сразу обо всём? Или мы опустим это как очевидный момент?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Тогда на этом и закончим, мне в целом без разницы что ты понял)

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Рад

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Ещё раз: приходя в компанию на оклад в 100 тысяч я соглашаюсь на эти условия. ОГО, я бы мог получать 150, но 50 уходят в фонд - окей. Но я СОГЛАСИЛСЯ на оклад в 100. Чуешь разницу или ещё нет? Мне насрать куда моя компания вкладывает средства, я работаю с ней на определённых условиях. И ГЛАВНОЕ - я могу уйти туда, где платят 150, если чувствую что мне это нужно и я могу на это претендовать.

Так понятно?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Бля, серьёзно? Разница в том, что у меня есть выбор, или ты до сих пор не понял? Я могу выбирать где работать и за какие деньги. Выбирать какие налоги платить, а какие нет я не могу.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Потому что я приходил работать на 100 тысяч и выбрал это сам. Если я захочу повышения до 150 или 200, а работодатель не сможет мне предложить такие деньги, то я найду другого работодателя. Мне правда нужно сто раз произносить одни и те же слова, чтобы они дошли? Ок - когда есть выбор, не ок - когда выбора нет. Надеюсь в пятый раз мне не придётся писать это?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Ты реально не понимаешь как устроены финансы? В первом случае работодатель распоряжается своими средствами, во втором случае государство распоряжается МОИМИ средствами.

Ещё раз, для самых непонятливых: я хочу работу за 100. Я нахожу работу за 100 и получаю 100. У компании, в которой я работаю, может быть хоть 100 триллионов денег, но я пришёл и хочу от них 100 тысяч. Я получаю 100 тысяч, а как они распоряжаются оставшимся и куда это вкладывают - это их личное дело. Это не мои деньги.

И вот я прихожу получать 100, а мне говорят ёпты, отдайка-ты от этих СВОИХ 100 ещё 18 в виде НДС, ещё 13 в виде НДФЛ, ещё n в виде ФОМС-хуёмс и так далее. Это уже берут из МОИХ денег и главное, что меня даже не спрашивают, я просто ДОЛЖЕН их отдать. В ответ я не получаю никаких внятных отчётов о расходовании моих средств (что делают частные фонды, например) и очень сомневаюсь, что расходованы они были не то что эффективно, а ХОТЯ БЫ на поставленные цели.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

СЕРЬЁЗНО? Наверное поэтому в договорах есть зп до вычета налогов и после? Это мои деньги, но в России принята система скрытых налогов, а не явных как в США. То есть у меня эти деньги удерживают заранее, а не предлагают мне оплатить их согласно декларации. Но это МОИ деньги, часть которых государство удерживает в свою пользу.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Будешь смеяться, но это очень легко. Надеюсь как мне не нужно рассказывать?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV

Побежал за памяткой

Ответить
Развернуть ветку
DxdV
где брать деньги в эти фонды? еще раз говорю - ты не понимаешь чекаво.

Ч а с т н о й и н и ц и а т и в о й. Вот ты считаешь сейчас, что проблема требует решения - идёшь в фонд и выделяешь им разово, ежемесячно, ежегодно средства и своё время, которые ты готов выделить на решение проблемы.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
DxdV
пособия платят из налогов потому, что это стабильно, регулируемо и управляемо.

Прям как стабильная пенсионная система, да? Очень стабильно я смотрю работает всё, как часы прям. Государство неэффективно расходует средства, нанимает сотрудников и управляет чем угодно вообще, потому что эффективные инструменты управления возникают только при наличии здоровой конкуренции и ограниченности средств. Факторов, с которыми государство не сталкивалось, не сталкивается и не будет. Частный сектор решает практически любую проблему эффективнее, чем государство.

Ответить
Развернуть ветку
183 комментария
Раскрывать всегда