Путь к беспрецедентному богатству (part 2)

Из прошлой части мы выяснили мотивационные спичи "за" использование AI. В этой главе нам предстоит разобраться, а как это может угрожать людям.

В 2025 году человек и ИИ еще далеко не братья по разуму. Во-первых, многие люди просто не умеют управлять, а это один из важных навыков необходимых для использования нейронок, потому что промптинг - это четкий и конкретный приказ. Во-вторых, искусственный интеллект не без галлюцинаций, проявляющихся в виде багов и косяков, то есть, для получения какого-либо результата нужен контроль за процессом.

Но если чертить перспективу, то вырисовываются два путя:

1) Человек и ИИ взаимподополняют друг друга. Это когда ИИ расширяет человеческие возможности, позволяя людям делать то, чего они никогда раньше не могли.

Взаимодополняемость подразумевает, что люди остаются незаменимыми для создания стоимости продукта и сохраняют переговорную силу на рынках труда и в процессе принятия политических решений.

2) ИИ заменяет и автоматизирует человека. Когда ИИ воспроизводит и автоматизирует существующие человеческие возможности, машины становятся лучшей заменой человеческого труда, а работники теряют экономическую и политическую переговорную силу.

Парадокс в том, что предприниматели и руководители, имеющие доступ к возможностям нейронок, будут нагло их использовать, потому что это быстрее, качественнее и дешевле. При условии, если не будет вмешиваться госрегулятор.

Отбросив вмешательство, зададим вопрос, а в чем заключается зло полной автоматизации производства?

Оно маленькое, но существенное. Полностью автоматизированная экономика позволит создавать достаточное количества производственных благ, чтобы перераспределять полученные выгоды даже на тех, кто не участвуют в процессе их создания. НО эти бенефициары ("просто получающие пособие") остаются в зависимой позиции от владельцев "процесса автоматизации", тем самым теряя свою переговорную и политическую позицию:

"Ваню Пупкина задавить как нехер делать... просто перестанем ему выплачивать денег", "Твое мнение никому не нужно, если не нравится можешь валить на помойку, а чат гпт версии 100500+ и космодром пстроит, и жену оплодотворит"

Это называется ловушка Тьюринга:

С одной стороны, это путь к беспрецедентному богатству, увеличению досуга, сильному интеллекту и даже лучшему пониманию себя. С другой стороны, если HLAI заставляет машины автоматизировать, а не увеличивать человеческий труд, это создает риск концентрации богатства и власти.