Когда знание в голове — это уже проблема. Ключевая проблема операций.

Первая статья была про метод работы с информацией в эпоху LLM. Сегодня про другое — про то откуда эта проблема на самом деле, и почему я к ней пришёл не через ИИ, а через физическое производство.

Есть момент в жизни любой компании когда процессы начинают зависеть от конкретных людей не потому что так задумано, а просто потому что так сложилось. Иван знает как работает логистика. Маша держит в голове все исключения из правил согласования. Новый человек приходит — ему объясняют на словах. Он понимает по-своему. Через полгода процесс уже немного другой, и никто не знает где именно он изменился.

Я видел это на заводе в 2009-м. Тридцать дней в месяц уходило на подготовку оперативного плана. Приказы, регламенты, инструкции — всё было. Разбивалось о человеческий фактор. Не потому что люди плохо работали. А потому что каждый знал свой кусок и нёс его в голове. Связь между кусками держалась на том что кто-то помнил позвонить, кто-то помнил проверить. Когда этот кто-то уходил — кусок процесса терялся или деформировался при передаче.

Потом был Музей Гараж. Там другая физика — каждая выставка уникальна, креативный хаос, жёсткие дедлайны. Но та же проблема: знание о процессе живёт в людях, передаётся устно, интерпретируется каждым по-своему.

Проблема не в том что документ плохо написан. Документ может быть полным, подробным, актуальным. Проблема в том что при передаче знания — человеку или модели — всегда происходит интерпретация. И у каждого она своя.

Человек читает регламент и схлопывает его до той версии которая совпадает с его предыдущим опытом. Модель читает тот же регламент и схлопывает до той версии которая статистически наиболее вероятна по её весам. Оба уверены. Оба отвечают на вопросы. Оба транслируют дальше свою интерпретацию как факт. Механизмы разные — результат одинаковый: авторская модель при передаче не сохраняется.

В физическом производстве я решал это через структуру процесса которую невозможно обойти. На заводе в 1С я сделал так что форма блокируется через семь дней — ввод данных невозможен, и никакая интерпретация тут не поможет. Система не даёт сделать иначе как предписывает процесс. Не потому что люди плохие, а потому что пространство интерпретации убрано архитектурно.

Когда я начал работать с LLM всерьёз, понял что проблема та же — только механизм схлопывания другой. Модель встречает два описания одного и тихо выбирает одно. Без следа. Без маркера. Продолжает с уверенностью сто процентов. Это не баг конкретной модели — это структурная неизбежность при определённом способе хранения знания. Точно так же как человеческий фактор на заводе был не проблемой конкретных людей, а проблемой архитектуры процесса.

Решение в обоих случаях одно по принципу — убрать пространство интерпретации до того как знание передаётся дальше. В физике это точки контроля, блокировки, явные переходы между этапами. В работе с LLM это детерминированная структура документов, каталог ловушек галлюцинаций, протокол явных маркеров при противоречиях.

Я называю это экстернализацией авторской модели. Не просто записать знание — а записать его так чтобы любой читатель, человек или машина, пришёл к той же модели что у тебя. Не к усреднённой. Не к "очевидной". К твоей.

Это то чем я занимаюсь в своём RnD последние несколько лет — на пересечении операционной архитектуры, работы с LLM и проектирования систем где знание должно выживать при передаче. Физика дала понимание что проблема архитектурная. ИИ дал инструменты чтобы решать её на новом масштабе.

Если узнали свою ситуацию — интересно поговорить.