реклама
разместить

Reuters: Amazon разработала ИИ для поиска сотрудников и отказалась от него из-за дискриминации женщин

Проблема оказалась в выборке, по которой обучалась система, — большинство резюме в ней от кандидатов-мужчин.

Онлайн-ритейлер Amazon разработал алгоритм на основе искусственного интеллекта для автоматизации подбора кандидатов на работу, но в итоге отказался от системы из-за дискриминации соискателей-женщин. Об этом пишет Reuters со ссылкой на пять источников, знакомых с деталями проекта.

По данным агентства, в 2014 году компания собрала команду разработчиков в Шотландии и поставила перед ней задачу создать программу для поиска и отбора лучших кандидатов. «В компании хотели получить инструмент, который выберет пять лучших резюме из ста, чтобы потом нанять этих людей», — рассказал один из собеседников Reuters.

Ответственная группа разработала 500 компьютерных моделей, обученных искать резюме в открытых рекрутинговых базах и отбирать лучших кандидатов на основе 50 тысяч терминов из резюме прошлых соискателей в Amazon. Искусственный интеллект оценивал кандидатов по шкале от одного до пяти.

В 2015 году разработчики заметили, что система подбирает специалистов-женщин меньше, чем мужчин. Команда объяснила это тем, что алгоритм обучался на базе, в которую вошли резюме всех сотрудников Amazon за последние десять лет. Мужчин в выборке оказалось больше, чем женщин, поэтому искусственный интеллект пришёл к выводу, что кандидаты-мужчины предпочтительнее, пишет Reuters.

Amazon отредактировала алгоритм, но корректировка не давала гарантий, что он не будет дискриминировать кандидатов по другим признакам, поэтому к началу 2017 года компания решила отказаться от использования системы.

Представитель Amazon отказался комментировать неудачный опыт создания алгоритма и заявил, что при найме сотрудников компания руководствуется в том числе принципами равенства и разнообразия.

2222
реклама
разместить
186 комментариев

Оказалось, что очень трудно заставить автоматическую систему нарочно делать глупости, не нарушив целиком её работу.

122

Противоречие устройства общества и экономики будут только нарастать.
Сейчас нельзя уволить беременную, мать одиночку, теперь еще и предпенсионника, а почему нельзя? Почему надо снижать эффективность бизнеса, вместо адекватных пособий для них?
Надеюсь скоро общество дозреет до необходимости отделить мух от котлет, т.е. эффективности от всего остального.

15

Это все потому что они сделали ИИ мужиком, а надо было делать ИИ женщину.

3

Это же современный ИИ, он просто методом тыка пытается копировать данные провидениям людей и отбирает то что «самое эффективное».
Если рекрутеры Амазон были расистами, то и ИИ по их подобию будет.

1

Может софт знает того чего не знаем мы?

31

пять лучших резюме из стаВ IT 25% женщин среди разработчиков. Среди начальства ~10%. Среди топового-менеджмента ~1%. Что вполне могло привести к тому, что ИИ просто отсек возможность найма женщин на эти 10-1%. А с вероятность в 0.25 особо не пошикуешь на графиках.

2

Хотя, может это признак того, что ИИ Skynet будет истреблять мужчин, а женщин тупо игнорировать. У человечества есть надежда! ))

1
Раскрывать всегда
VK и ВШЭ запустили «Школу информатики, физики и технологий» для подготовки разработчиков и специалистов в сфере ИИ

Набор студентов откроют в 2025 году.

55
22
реклама
разместить
Трамп подписал указ об отсрочке «запрета» TikTok на 75 дней и пригрозил Китаю пошлинами в случае отказа от «хорошей сделки» с США

За время отсрочки президент страны хочет «определить адекватный курс действий».

Глава TikTok Чу Шоуцзы. Источник фото: FT
88
22
11
11
В Госдуму внесли законопроект об увеличении лимитов выплат по ОСАГО на 30%

С 400 тысяч до 520 тысяч рублей за ущерб имуществу и с 500 тысяч до 650 тысяч рублей за вред здоровью.

Фото Global Look Press 
33
11
Вот почему вы скоро возненавидите свою работу

Я вернулся домой без сил, как и в последние года. Всё, что я мог сделать — это включить тупую комедию. Не было сил ни на работу, ни на семью – только пустота и усталость. Когда начал искать информацию и говорить со знакомыми о своём состоянии, понял – это выгорание.

Это комментарии с форумов о том, как люди столкнулись с выгоранием – своим или близких.
1717
33
11
Осторожно! Домовые чаты в Telegram могут быть мошеннической схемой

Я был у знакомых в гостях и увидел объявление: «Вступите в чат вашего дома в Телеграм!» — и, казалось бы, ничего подозрительного. Внизу красовался QR-код, который обещал сразу перенести в «полезный» соседский чат, где обсуждаются бытовые вопросы и общие интересы.

Фото мое, объявление расположено рядом с кнопкой лифта. Я не дизайнер, я так вижу :)
1313
11
11
11
25+ лидов в неделю из Яндекс.Директ для компании по ремонту квартир в Санкт-Петербурге

В этом кейсе расскажем, как мы в агентстве Soroka Marketing помогли компании InHome запустить контекстную рекламу в Яндекс.Директ и получать лиды на ремонт в новостройках, стоимость которого начинается от 750 тыс. руб.

25+ лидов в неделю из Яндекс.Директ для компании по ремонту квартир в Санкт-Петербурге
1515
Как я запустил детский печатный журнал в 15 лет и закрыл его через 2 месяца
Это не я, но по смыслу идеально подходит.
1414
88
11
11
Шпионим за успешными франшизами и делимся их практиками. Часть 5: CooknRun

К кому бы вы пошли на «Адскую кухню» — к Гордону Рамзи или Константину Ивлеву? Справились бы с заковыристыми задачами именитых шефов? Что общего у кулинарного квест-шоу и игр на световом полу? Ответы в статье.

Шпионим за успешными франшизами и делимся их практиками. Часть 5: CooknRun
1717
33
[]