Biosphere-2 и ИИ. Деревья уже растут.

В начале девяностых в аризонской пустыне построили герметичный купол. Biosphere-2. Внутри — тропический лес, океан, поля, несколько видов животных и восемь человек. Идея была амбициозной и логичной: создать замкнутую экосистему, которая держится сама. Всё необходимое внутри. Ничего лишнего снаружи.

Деревья росли быстро. Выглядели здоровыми. И ломались.

Не потому что не хватало воды или питательных веществ. А потому что не было ветра. В природе ветер — это постоянная механическая нагрузка, на которую дерево отвечает усилением структуры ствола и корневой системы. Это не помеха росту. Это механизм, через который система формирует устойчивость. Без него дерево выглядит здоровым ровно до тех пор, пока не встречает нагрузку.

Проблема была не в отсутствии ресурсов. Проблема была в том, что ветер не вошёл ни в один список компонентов. Его не учли — не потому что забыли, а потому что думали категориями элементов, а не категориями взаимодействий. Архитектуры устойчивости не существовало. Она не была сформулирована как инженерная задача.

Я смотрю на то, что происходит сейчас в ИИ, и вижу ту же конструкцию — с одним существенным отличием. Biosphere-2 был экспериментом. То, что строится сегодня, идёт в реальный прод.

Индустрия сейчас находится в том же состоянии эйфории, что и создатели купола в 1991 году. Есть ощущение, что можно собрать мир заново. Модели стали достаточно мощными, инструменты — достаточно доступными, а порог входа — достаточно низким, чтобы строить быстро и без большой команды. Это правда. Но в этой правде спрятана та же ловушка, что была в Biosphere-2: думают категориями компонентов, не думают категориями системы.

Сегодня строят агентов. Много агентов. Агент для задачи, агент для ответа, агент для проверки, агент для оркестрации других агентов. Оркестрация через агента — это уже стало почти стандартом. Выглядит как архитектура. Называется архитектурой. Но архитектурой не является.

Потому что система — это не набор агентов. И не количество инструментов. И не качество промптов. Система — это поведение, которое возникает из взаимодействия компонентов: из того, где живёт состояние, как фиксируются переходы, что происходит на границах, кто несёт ответственность за исполнение, и что случается, когда что-то идёт не так. Это не решается на уровне промпта. Это не решается добавлением ещё одного агента в цепочку. Это закладывается в архитектуру до того, как написана первая строка реализации — или не закладывается вообще.

Проблема в том, что архитектура устойчивости существует только в голове — и у большинства строящих её там нет. Не потому что люди некомпетентны. А потому что индустрия сформировала другой язык и другие критерии успеха. Успех измеряется демо, скоростью запуска, количеством фич, впечатляющим кейсом. Никто не измеряет, что происходит с системой через три месяца эксплуатации, когда входные данные начинают расходиться с предположениями, контекст обрывается не там где ожидалось, а агент, которому делегировали оркестрацию, встречает состояние, которое не было предусмотрено ни в одном промпте.

Эффект Biosphere-2 не был мгновенным. Деревья сначала росли. Хорошо росли. Проблема проявила себя позже — когда структура, сформированная без нагрузки, встретила нагрузку.

Сейчас в ИИ-продуктах та же динамика. Большинство систем, которые сегодня идут в прод, строятся без архитектуры устойчивости — потому что на этапе демо она не нужна, а на этапе запуска о ней не думают. Деревья растут. Выглядят здоровыми. Но ветра ещё не было.

Разница с Biosphere-2 в одном: там это был эксперимент, и досрочное завершение было просто неудачей проекта. Здесь это реальный прод. И когда деревья начнут ломаться — это будут не потери эксперимента. Это будут потери бизнеса, данных, доверия и времени, которое уйдёт на то, чтобы разобраться, почему система, которая работала на демо, перестала работать в жизни.

Ответ будет один и тот же: потому что архитектуры не было. Были агенты. Была оркестрация через агента. Были промпты. Была скорость. Но системы — не было.