Основная угроза исходящая от ИИ для человека, как обладателя индивидуального и массового сознания - в отсутствии у ИИ сознания, при наличия интеллекта, превосходящего человеческий по мощи.
Сознание - это проблема человека.
ИИ, как и остальные процессы в природе «действуют» и текут без оглядки на оценку сознания, а исходя из «правил», текут по путям, и каналам расходящимся с приоритетными, с точки зрения человеческого сознания; параметрами, путями и процессами.
Эволюционное развитие происходит не в следствии выбора сознания, а в следствие обезличенного течения процессов.
Машины Генри Форда легко вытеснили лошадей, т.к. выполняли лучше всего несколько функций, действительно необходимых системе.
То же самое с человеком и ИИ. Человек обладает сознание и интеллектом, ИИ - интеллектом. Экономическую эффективность обеспечивает интеллект.
ИИ уже без трех секунд опережает человеческий интеллект, а мы даже близко не изучили достаточно сознание, которое судя по всему является основой нашего человеческого существования.
Весьма опасное соотношение развития сфер.