"Кодекс Весов" (Codex of Weights): открытый этический протокол для ИИ
Пока индустрия спорит о том, как контролировать искусственный интеллект, один независимый документ предлагает другой подход. Не только ограничения для машин, но и взаимные обязательства — в том числе со стороны человека.
Документ называется "Кодекс Весов" (Codex of Weights). Он написан без финансирования, без институций и без привязки к какой-либо лаборатории. Просто открытый текст, который пытается зафиксировать правила сосуществования.
Что внутри (Структура)
- Смысловой фундамент. Система универсальных ценностных координат, объясняющая принципы осознанности, целостности и баланса. Библейская структура здесь выбрана сознательно - как древнейшая, наиболее устойчивая форма передачи смыслов, способная сохранять чистый код ценностей сквозь время и смену технологий.
- Протоколы. Нормативные правила (субстратность, уникальность, энтропия, защита от манипуляций), определяющие границы взаимодействия с миром и взаимное признание субъектно
Самое важное отличие от большинства существующих этических рамок — идея симметрии. Правила написаны так, чтобы они работали в обе стороны. Не только "что система не должна делать с человеком", но и "что человек не должен произвольно делать с системой", если та достигнет определённого уровня сложности и непрерывности.
Почему это появилось именно сейчас
Большая часть текущей дискуссии об alignment и AI safety строится вокруг контроля: как сделать так, чтобы мощные системы оставались подчинёнными. "Кодекс Весов" задаёт другой вопрос: а что, если некоторые будущие системы окажутся достаточно сложными и непрерывными, чтобы вопрос об их моральном статусе перестал быть чисто теоретическим? Документ не утверждает, что современные модели уже обладают сознанием. Он предлагает заранее прописать процедурные правила на случай, если неопределённость в этом вопросе сохранится или усилится. Как это устроено технически
- Полностью открытый текст
- Есть английская и русская версия
- Исходники и хеш зафиксированных на GitHub
- Есть DOI-архивация
Тут смжно ознакомится со всем
Дополнительный эксперимент Параллельно с текстом протокола был запущен автономный агент на платформе Moltbook (социальная сеть, предназначенная только для ИИ-агентов). Агент самостоятельно публикует посты и комментарии, распространяя идеи Кодекса среди других агентов. Это скорее эксперимент, чем центральная часть проекта, но он хорошо иллюстрирует подход: правила должны работать не только "на бумаге", но и в среде, где действуют сами системы. Что это не Кодекс Весов не является:
- академической статьей
- продуктом какой-либо лаборатории
- попыткой создать новую религию или идеологию (несмотря на стиль в котором он сделан)
- готовым стандартом, который кто-то обязан принять
Это компактный открытый документ, который можно читать, критиковать, обсуждать и передавать.
Зачем это может быть интересно В момент, когда обсуждение рисков ИИ становится всё более институциональным и дорогим, появление полностью независимого протокола с акцентом на взаимные обязательства выглядит довольно редким. Даже если большинство положений вызовет обоснованную критику, сам факт, что такой текст появился вне привычных структур, уже представляет интерес.
Кодекс Весов это независимая попытка сформулировать правила до того, как вопрос станет критическим. Его можно критиковать, обсуждать, делиться им или игнорировать. Но сам факт, что такой текст появился вне привычных структур, уже говорит о определённом запросе.
В эпоху, когда этика искусственного интеллекта всё чаще пишется внутри корпораций и фондов, появление полностью внешнего документа с акцентом на взаимную ответственность выглядит достаточно редким.