Reuters: Amazon разработала ИИ для поиска сотрудников и отказалась от него из-за дискриминации женщин Статьи редакции
Проблема оказалась в выборке, по которой обучалась система, — большинство резюме в ней от кандидатов-мужчин.
Онлайн-ритейлер Amazon разработал алгоритм на основе искусственного интеллекта для автоматизации подбора кандидатов на работу, но в итоге отказался от системы из-за дискриминации соискателей-женщин. Об этом пишет Reuters со ссылкой на пять источников, знакомых с деталями проекта.
По данным агентства, в 2014 году компания собрала команду разработчиков в Шотландии и поставила перед ней задачу создать программу для поиска и отбора лучших кандидатов. «В компании хотели получить инструмент, который выберет пять лучших резюме из ста, чтобы потом нанять этих людей», — рассказал один из собеседников Reuters.
Ответственная группа разработала 500 компьютерных моделей, обученных искать резюме в открытых рекрутинговых базах и отбирать лучших кандидатов на основе 50 тысяч терминов из резюме прошлых соискателей в Amazon. Искусственный интеллект оценивал кандидатов по шкале от одного до пяти.
В 2015 году разработчики заметили, что система подбирает специалистов-женщин меньше, чем мужчин. Команда объяснила это тем, что алгоритм обучался на базе, в которую вошли резюме всех сотрудников Amazon за последние десять лет. Мужчин в выборке оказалось больше, чем женщин, поэтому искусственный интеллект пришёл к выводу, что кандидаты-мужчины предпочтительнее, пишет Reuters.
Amazon отредактировала алгоритм, но корректировка не давала гарантий, что он не будет дискриминировать кандидатов по другим признакам, поэтому к началу 2017 года компания решила отказаться от использования системы.
Представитель Amazon отказался комментировать неудачный опыт создания алгоритма и заявил, что при найме сотрудников компания руководствуется в том числе принципами равенства и разнообразия.
Оказалось, что очень трудно заставить автоматическую систему нарочно делать глупости, не нарушив целиком её работу.
Противоречие устройства общества и экономики будут только нарастать.
Сейчас нельзя уволить беременную, мать одиночку, теперь еще и предпенсионника, а почему нельзя? Почему надо снижать эффективность бизнеса, вместо адекватных пособий для них?
Надеюсь скоро общество дозреет до необходимости отделить мух от котлет, т.е. эффективности от всего остального.
Ну, тогда наиболее справедливым выглядит концепция "безусловного дохода", чтобы неэффективные и немотивированные люди не занимали рабочие места.
Фсмыслий?
Просто не брать неэффективных и немотивированных на работу. Голод и отсутствие средств к существованию вполне заебатая мотивация.
И получишь еще одну Центральную Африку.
Фсмыслий?Чем больше человеку отказывает общество (неважно в чем), тем больше он его ненавидит. Позже все это оборачивается в публичные акты агрессии. Потому что забытые и отвергнутые, копят обиду и злость. Именно отсюда и вырастают будущие бандиты, маньяки, насильники, наркодиллеры и проститутки. Некоторые могут просто и суицидом закончить (кол-во суицидов, в мире капитализма, неожиданно увеличивается).
Я не готов из своего кармана оплачивать жизнь тех, кто не хочет обустраивать её своими силами. Если вы готовы - я не против.
Проблема в том, что вы в любом случае будете из своего кармана оплачивать жизнь тех, кто не может или не хочет обустраивать ее своими силами. Вопрос лишь в сумме затрат и степени добровольности. Грубо говоря, вы, являясь компетентным сотрудником, своим трудом оплачиваете существование некомпетентных. При этом количество вреда, наносимого некомпетентными сотрудниками, превосходит получаемую от них пользу.
Частный пример: в государственных вузах содержится огромное количество дармоедов пенсионного возраста, читающих лекции по книжкам сорокалетней давности или просто перекладывающих бумажки с места на место. Эти люди не эффективны, но они занимают штатную должность, что не позволяет нанять на их место молодых и эффективных преподавателей (и назначить им нормальную зарплату, получив дополнительные средства от сокращения раздутых штатов всяких методистов и прочего бесполезного балласта). И вы, как человек, платящий налоги, обеспечиваете содержание всех этих дармоедов на госслужбе.
При этом проблема наблюдается не только в государственном секторе, но и в частном (хоть и в меньшей степени), когда Аллу Петровну из бухгалтерии не увольняют только потому, что у неё трое детей и ипотека, а то, что Алла Петровна дико косячит, и ее косяки потом приходится расхлебывать всей компании - опять же, в расчет редко когда берется.
И это я не говорю о случаях, когда обозленные люмпены тупо будут вас грабить, потому что у вас - есть, а у них - нету.
В качестве сотрудника я получаю оплату за то, что решаю чьи-то проблемы, т.е. обмениваю своё время на деньги, а не приплачиваю ещё в довесок. Вопрос эффективности соседних сотрудников меня не беспокоит, потому что я согласился на те условия, в которых работаю - это моё собственное решение.
В данном случае я бы тоже хотел принимать решение о том, на что я готов обменивать своё время и деньги.
Не совсем так. В качестве сотрудника вы получаете среднюю по рынку зарплату, которая формируется из соотношения доступного большинству работодателей бюджета и объема денежных средств, необходимых на содержание всех его работников, как эффективных, так и не очень (потому что "не по людски это - Марьванну уволить, у нее детей трое"). То есть при наличии базового безусловного дохода всех подобных неэффективных марьванн можно было бы отправить домой без зазрений совести, что ее дети умрут от голода, а действительно эффективные и амбициозные сотрудники получали бы не только бОльшую материальную компенсацию, но и больше ресурсов компании в распоряжение для реализации своих идей.
Вот против этого я и выступаю.
Вопрос эффективности соседних сотрудников меня не беспокоит
Неэффективных сотрудников оплачивает работодатель. Вы же не станете спорить, что более высокие налоги для компаний в конечном итоге ложатся на обычных людей. Так вот, есть мнение, что выгодней повысить налоги и направить их на пособия, но при этом не ломать кадровую систему компании навязывая неэффективных сотрудников.
Эффективнее просто не навязывать компаниям неэффективных сотрудников, и кстати, в большинстве случаев никто этого не делает, поскольку несоответствие профессиональным требованиям - это справедливое основание для увольнения, чем организации спокойно пользуются.
читающих лекции по книжкам сорокалетней давности
Очень спорное утверждение. По крайней мере вспоминая свою выпускающую кафедру, могу отметить, что пожилые преподаватели относились к своей работе гораздо ответственнее. Как к преподавательской, так и научной. Наиболее заслуживающие внимания статьи тоже писались в нас в основном пенсионерами, а молодёжь (сорокалетняя) занималась имитацией научной деятельности для выполнения требуемого минимума. Возможно, конечно, это проблема только моей бывшей кафедры и в других областях не так.
Не скажу за какой-нибудь физфак или там геологию, но с IT-образованием у нас жопа. Я прямо сейчас учусь в одном из лучших и крупнейших региональных ВУЗов в магистратуре, специальность Информационные системы и технологии (просто стал нужен формальный диплом). На курсе по языкам программирования нас бабушка-преподавательница в возрасте "дважды заслуженный пенсионер" учила писать пузырьковую сортировку и обход дерева. При этом код на доске писала из учебника по С#, а пример рабочей программы с визуализацией показывала на Дельфи, потому что когда-то в далекие годы она как эту программу на дельфях написала, так до сих пор ей и пользуется. И полфакультета таких "заслуженных преподавателей", препод по "веб-разработке" возрастом чуть за полтинник не может прочесть собственный говнокод на html, про существование таких вещей, как Jquery он если и слышал, то краем уха. Про то, как нам теорию баз данных преподавали, я вообще молчу, видно, что лектор этот набор лекций лектор как составил лет сорок назад, так и читает их без изменений.
А одна из немногих толковых преподавателей, молодая девушка после аспирантуры, ведущая курс "Мобильная разработка", была дико рада, что к ней на пары хожу я и ещё два человека с моей группы (хотя этого предмета у нас в расписании нет, нам просто интересно), потому что та группа, у которой этот предмет в расписании таки стоит, забила на эту пару в полном составе, и я их понимаю - предмет поставлен в жутко неудобное время, в аудитории, больше похожей на склад, где вообще ни компьютеров, ни проектора нет, только четыре разваливающихся стола и старая маркерная доска. Почему? Потому что все компьютерные лаборатории на это время разобраны более "заслуженными" и "маститыми" преподавателями.
А практику у нас, айтишников, поставили вести вообще дедушка с матфака. Он, может быть, крутой математик, который еще Келдыша живым застал, но он даже электропочтой пользуется с трудом, требуя приносить ему все бумаги на флешке.
Комментарий недоступен
Преступность есть везде и всегда есть риск не дойти до дома вечером, если бы оплата базовых нужд бомжей гарантировала мне стопроцентную безопасность, я с вами бы согласился. Только она не гарантирует даже 90-процентную.
Комментарий недоступен
Совершенно ничего не гарантирует.
Комментарий недоступен
И ничего не будет гарантировать, поэтому я и говорю, что выплаты нежелающим и неумеющим работать мою жизнь безопаснее не сделают.
Комментарий недоступен
Я попугай что ли? Ничего не сделает, кроме того что лентяи и идиоты получат возможность жить за чужой счёт.
Комментарий недоступен
Никак не быть, если человека не мотивирует на труд даже такое - то он сам в ответе за то, что с ним произойдёт.
Комментарий недоступен
Деньги у государства появляются благодаря труду его граждан. Государство инвестирует в своих граждан для того, чтобы эти инвестиции окупились в виде того, что эти граждане затем произведут для государства (и себя в том числе). Инвестиции в того, кто не производит ничего ПО СВОЕЙ ВИНЕ (я не беру в расчет инвалидов и прочие недееспособные категории граждан, их нужно поддерживать и я лично готов это делать), то госудаство ничего ему не должно.
Комментарий недоступен
У меня высшее образование, я работаю и плачу налоги. Если ты собираешься сделать упор на возраст - не прокатит, вокруг меня множество людей в возрасте 50-60+, которые точно так же прекрасно работают и отлично себя чувствуют.
Комментарий недоступен
Главное чтобы ты понимал, а время покажет к каким результатам это приведёт.
Комментарий недоступен
Я уже ответил как решать эти конфликты - частной инициативой. Фондами, группами волонтёров, всеми желающими. Вперёд. В нашей стране фондам частенько ставят палки в колёса, но это не проблема предлагаемого мной решения, а проблема нашей законодательной системы.
Комментарий недоступен
И говорить о том, что это эффективный механизм - просто смешно. Когда ты работаешь в условиях отсутствия конкуренции и в условиях, при которых ВСЕГДА можешь достать ещё денег, если они вдруг закончились - ни о какой эффективности речи даже не идёт.
Комментарий недоступен
Фондами, волонтёрскими группами. Я реально попугай? Посмотри скольким людям помогли фонды вроде "Подари жизнь" и поисково-спасательные группы вроде "Лиза Алерт" (и это в наших драконовских условиях существования таких фондов).
Посмотри как расходует средства фонд Билла и Мелинды Гейтс, какие проекты они смогли довести до логического конца и какие технологии развить до состояния внедрения. Посмотри на SpaceX на худой конец, какие достижения были сделаны усилиями частной компании и что ещё вытворяют их конкуренты типа проектов Безоса.
А потом расскажи мне про то, какая эффективность решения проблемы со стороны государства. Рост числа бедных в России ускоренными темпами? Или может быть тотальная эпидемия ВИЧ и СПИД, которая уже привела нас по цифрам на уровень развивающихся африканских стран? Вот это и есть та самая эффективность, с которой государство решает вопросы.
Комментарий недоступен
Моя позиция такая: помогать тем, кто сам себе помогать отказывается должны только те, кто считает это целесообразным.
Комментарий недоступен
Что значит "а если"? Все считают так как я? Нет. Так зачем делать необоснованные предположения ради красивого словца? А если завтра мы все умрём?
Комментарий недоступен
Какой бред. Я выбрал свою профессию и в рамках своей профессии решаю задачи. Кто-то выбрал иной путь и следует ему. Глупо упрекать меня в том, что я не думаю о том, о чём думать и не собирался. Ты что лично сделал для решения проблемы? Что придумал, в чём поучаствовал? Отдал свои деньги в управление системе, которая не умеет эффективно ими распоряжаться? Ну поздравляю, снял груз с души простым и забавным образом, т.е. по сути тоже снял с себя необходимость думать о том, как решить проблему. "Я налоги заплатил, моя совесть чиста, дальше пусть они разбираются".
Комментарий недоступен
Я же не прошу тебя делать мою работу, правильно? Ты часто помогаешь дворникам или водителям автобусов порулить пока он отдыхает? Или может ты периодически подменяешь сотрудников колл-центров? А ведь все эти люди решают проблемы.
Так вот диверсификация труда придумана именно для того, чтобы проблемы решали специалисты и чтобы бухгалтер не думал о привлечении клиентов, а проджекты не думали о бухгалтерии. Мне правда нужно объяснять как устроено делегирование и почему не нужно одному человеку думать сразу обо всём? Или мы опустим это как очевидный момент?
Комментарий недоступен
Тогда на этом и закончим, мне в целом без разницы что ты понял)
Комментарий недоступен
Рад
Комментарий недоступен
Ещё раз: приходя в компанию на оклад в 100 тысяч я соглашаюсь на эти условия. ОГО, я бы мог получать 150, но 50 уходят в фонд - окей. Но я СОГЛАСИЛСЯ на оклад в 100. Чуешь разницу или ещё нет? Мне насрать куда моя компания вкладывает средства, я работаю с ней на определённых условиях. И ГЛАВНОЕ - я могу уйти туда, где платят 150, если чувствую что мне это нужно и я могу на это претендовать.
Так понятно?
Комментарий недоступен
Бля, серьёзно? Разница в том, что у меня есть выбор, или ты до сих пор не понял? Я могу выбирать где работать и за какие деньги. Выбирать какие налоги платить, а какие нет я не могу.
Комментарий недоступен
Потому что я приходил работать на 100 тысяч и выбрал это сам. Если я захочу повышения до 150 или 200, а работодатель не сможет мне предложить такие деньги, то я найду другого работодателя. Мне правда нужно сто раз произносить одни и те же слова, чтобы они дошли? Ок - когда есть выбор, не ок - когда выбора нет. Надеюсь в пятый раз мне не придётся писать это?
Комментарий недоступен
Ты реально не понимаешь как устроены финансы? В первом случае работодатель распоряжается своими средствами, во втором случае государство распоряжается МОИМИ средствами.
Ещё раз, для самых непонятливых: я хочу работу за 100. Я нахожу работу за 100 и получаю 100. У компании, в которой я работаю, может быть хоть 100 триллионов денег, но я пришёл и хочу от них 100 тысяч. Я получаю 100 тысяч, а как они распоряжаются оставшимся и куда это вкладывают - это их личное дело. Это не мои деньги.
И вот я прихожу получать 100, а мне говорят ёпты, отдайка-ты от этих СВОИХ 100 ещё 18 в виде НДС, ещё 13 в виде НДФЛ, ещё n в виде ФОМС-хуёмс и так далее. Это уже берут из МОИХ денег и главное, что меня даже не спрашивают, я просто ДОЛЖЕН их отдать. В ответ я не получаю никаких внятных отчётов о расходовании моих средств (что делают частные фонды, например) и очень сомневаюсь, что расходованы они были не то что эффективно, а ХОТЯ БЫ на поставленные цели.
Комментарий недоступен
СЕРЬЁЗНО? Наверное поэтому в договорах есть зп до вычета налогов и после? Это мои деньги, но в России принята система скрытых налогов, а не явных как в США. То есть у меня эти деньги удерживают заранее, а не предлагают мне оплатить их согласно декларации. Но это МОИ деньги, часть которых государство удерживает в свою пользу.
Комментарий недоступен
Будешь смеяться, но это очень легко. Надеюсь как мне не нужно рассказывать?
Комментарий недоступен
Побежал за памяткой
Ч а с т н о й и н и ц и а т и в о й. Вот ты считаешь сейчас, что проблема требует решения - идёшь в фонд и выделяешь им разово, ежемесячно, ежегодно средства и своё время, которые ты готов выделить на решение проблемы.
Комментарий недоступен
Прям как стабильная пенсионная система, да? Очень стабильно я смотрю работает всё, как часы прям. Государство неэффективно расходует средства, нанимает сотрудников и управляет чем угодно вообще, потому что эффективные инструменты управления возникают только при наличии здоровой конкуренции и ограниченности средств. Факторов, с которыми государство не сталкивалось, не сталкивается и не будет. Частный сектор решает практически любую проблему эффективнее, чем государство.
Комментарий удален модератором
Пусть его кормят родственники, близкие и сочувствующие вроде вас, но не государство, которому он не приносит пользы.
Комментарий удален модератором
Это плохая реакция на трудности, хорошая - Джеку Ма больше 30 раз отказывали в устройстве на работу. Он называл себя чемпионом по отказам
Не верьте в сказки КПК, Джек Ма чиновник высокого ранга из министерства торговли, китайцы долго пытались заставить ebay нормально в страну прийти, сервера перенести и соблюдать законы, те ни в какую, они отправил Ма создать аналог, он и создал.