ИИ, который переписывает сам себя: почему самоулучшение начинается не с весов модели

Соосновательница Thinking Machines Lab Лилиан Венг выпустила большой разбор о том, как ИИ может улучшать сам себя. Её главный тезис звучит неожиданно: чтобы запустить рекурсивное самоулучшение (RSI), не обязательно лезть в веса модели. Куда реалистичнее начать с проектирования «харнесса», той системы выполнения, которая окружает модель и превращает её в рабочего агента.

Логика простая. Веса трогать дорого и рискованно, а обвязку вокруг модели можно переписывать быстро и часто. Оптимизируешь харнесс и получаешь прирост качества почти без переобучения. Отсюда вывод: ближайший путь к самоулучшению лежит через инженерию окружения, а не через саму нейросеть.

Sakana AI собрала под этим тезисом несколько живых примеров. The AI Scientist из Nature это автономный конвейер, который сам придумывает идеи, ставит эксперименты, пишет статьи и рецензирует их. ShinkaEvolve эволюционирует программы на базе LLM и резко экономит на выборке. Darwin Gödel Machine вообще переписывает собственный код харнесса, улучшая себя.

Венг честно называет и слабые места петли самоулучшения: результат тяжело оценивать, разнообразие решений схлопывается, а модели начинают хачить метрику вознаграждения. Пойдёт ли RSI именно этой дорогой, пока не знает никто, но карта области получилась отличная.

Статья Лилиан Венг: https://lilianweng.github.io/posts/2026-07-04-harness/

The AI Scientist (Nature 2026): https://nature.com/articles/s41586-026-10265-5

ShinkaEvolve: https://sakana.ai/shinka-evolve/

Источник: https://x.com/SakanaAILabs/status/2074489949529776308