ИИ не изобретает, а перебирает варианты
Представьте отличника, который выучил все учебники мира и решает любую задачу из них за секунду. Теперь попросите его заметить, что в учебнике ошибка. Он не сможет. Его за это наказывали всю жизнь.
Ещё немного test-time compute, ещё тысяча параллельных rollouts, и модель сама закроет Навье-Стокса? Не закроет. Масштаб тут ни при чём: это ограничение самой схемы.
Поиск внутри известного
Трансформер оптимизирует правдоподобие на корпусе, который написали люди. Даже при бесконечном поиске он остаётся внутри того, что этот корпус задаёт. Новую комбинацию известных элементов он найдёт. Новую систему координат не найдёт. Это интерполяция, а не абдукция по Пирсу.
Верификатор как цензор
В RLVR и GRPO награду даёт проверяющий: Lean, компилятор, юнит-тесты. Чтобы он работал, в него нужно зашить правила. Значит, он знает ровно то, что известно сегодня.
Гипотеза, которая эти правила отменяет, для него невалидна. Дайте модели физику XIX века и фразу «время замедляется со скоростью». Она получит штраф как за выход из распределения. RLVR выходит механизмом, который отучает от ереси. Я называю это ловушкой непогрешимости.
Что у человека есть, а у модели нет
Учёный годами сидит на аномалии, которую не объясняет ни одна теория. Это его выматывает. Через это напряжение иногда и рождается новая парадигма, как у Куна.
У модели нет цены ошибки и нет состояния, которое держится между шагами. Она не умеет сказать «здесь рамка сломана». Ей нужно выдать токены, и она их выдаёт, даже когда знания нет. Ей не хватает центрального торможения: способности не отвечать, пока не созрело.
Поэтому мы делаем Metabolic AI. Это система, в которой у интеллекта есть собственное «тело»: непрерывный динамический субстрат с внутренним напряжением. Принципы такие:
- Речь отдельно от воли. Языковая модель говорит, а направление и удержание напряжения живут в ядре без токенов.
- Опыт оседает. Кризисы и провалы меняют систему физически и не стираются.
- Право на несогласие. Агент может не согласиться с проверяющим, и за это его не наказывают.
Перебрать все ходы не значит придумать го. Проверить десять тысяч лемм не значит родить квантовую механику. Изобретает тот, кому есть что терять.