Собственно отчасти это уже их мир. Сотни людей создают распределенные системы, которые ни один отдельный человек не может сказать точно как работают. А через 20-30 лет, когда все команды работвшие над тем или иным проектом распадаются, придется создавать исследовательский институт из сотней людей чтобы понять как та система работала.

И эти системы принимаются как законы - пока полуофициально, на уровне политики компаний, типа - "вам не показываются эти результаты выдачи, потому что наш алгоритм так решил, ничего не можем поделать".

Но не за горами время, когда подобные решения будут и на официальном-законодательном уровне приниматься ИИ ("система определила у Вас склонность к педофилии, Вам -100 соц баллов, запрет на посещение семейных мест и обязательно пройти курс реабилитации" - но почему??я ничего не делал.. - "нет оснований не доверять показаниям системы"). В Китае уже отчасти такие системы работают.