Мы опубликовали тезис о киберэкономике, то есть новой экономической системе в программируемом и высокоавтоматизированном мире
- человечество зажато между двумя экспонентами: технологии порождают новые риски вплоть до киберрабства и вымирания, но они же дают инструменты кибернетической саморегуляции
- чтобы выживать, системы обязаны расширяться. капитализм это лучший самооптимизирующийся механизм экспансии, где цена работает как децентрализованный сигнал для баланса спроса и предложения
- у экспансии встроенный трейд-офф риска и роста: чем быстрее рост, тем больше новых рисков: от долговых циклов и концентрации богатства до киберрабства владельцами ИИ
- киберрабство - риск того, что техномонополии с рефлексивно самоулучшающимся ИИ применят накопленную власть за пределами бизнеса. оно уже здесь: телефон следит за вами, лента формирует убеждения, ИИ-ассистент работает на того кто больше платит
- причиной являются человеческие ограничения в наблюдении, анализе, координации и действии
- самое сильное из них - это проблема координации, порождающая невозможность коллективного действия. теория игр гарантирует, что индивидуально рациональное поведение даёт устойчиво худший коллективный исход
- ИИ снимает эти ограничения: агенты ищут, рассуждают, коммуницируют и исполняют лучше людей. эпоха ограниченной рациональности позади.
- смарт-контракты закрывают барьер доверия и гарантий исполнения обязательств: любые два агента, человек или ИИ, заключают сложные контракты без центральной юрисдикции
- три рычага ускорения кибернетики:
- регулирование через технологию (интерпретируемость ИИ, evals, верифицируемый аудит, полицентричное управление)
- переход от экономики внимания к экономике намерений (агент читает интент, находит контрагентов, договаривается и исполняет)
- ИИ-генерация рыночных механизмов на лету, где координация становится программируемой
- развилка сегодня: смириться с киберрабством и дать рефлексивному технологическому риску привести к вымиранию или ускорить кибернетику, свести новые риски к нулю и сойтись к кибернетической экономике
Подписывайтесь на Telegram e/acc.