А с чего Вы взяли, что алгоритм вообще учитывал признак пола? Скорее, учитывалась масса признаков, многие из которых косвенно связаны с полом. И вот именно тут разработчики оказались бессильны точечно откорректировать ситуацию, потому что объективная реальность имеет свойство просачиваться, как от неё не отмахивайся, а в случае с большими данными так вообще без вариантов. На вскидку, из тривиального: Женщины ходят в декрет? Ходят. Женщины обычно менее готовы к физической работе? Да. (а это ведь Amazon, они посылками и грузами занимаются) И никак это не поправишь какими-то коэффициентами. Один только вариант — тупо поставить квоты. Но тогда вся тонкая организация алгоритма идёт по одному месту.

Я думаю это первое, что они сделали, чтоб попытаться убрать дискриминацию и сохранить алгоритм.