В этой истории больше всего интересна реакция американской полиции. Они начали работать с программой, но, при выявлении отрицательных результатов и высоких рисков свернули сотрудничество с разработчиками. И это нормально. Потому что полиция там, во-первых работает и, в целом, отвечает за работу, во- вторых, подконтрольна гражданскому обществу.
Защита от таких алгоритмов есть в цивилизованных странах.
В других - произвол выглядит неизбежным и неустранимым, пока ни СМИ, ни суды, ни общество не может влиять даже на очевидных преступников, злоупотребляющих властью.
Тем более, когда они, как во всех диктатурах, прикрывают свои реальные преступные намерения "контролем", "безопасностью" при отсутствии над ними самими реального контроля, при их явной общественной опасности.
Так что это вопрос не технический и не проблема с данными, это качество провоохранительной системы, уровень прав и свобод в стране.