Недетерминированный ИИ: а что если субъектность родится не в машине, а между нами
Недавно посмотрел подкаст с Давидом Яном — это основатель ABBYY, физтех, кандидат наук, тот самый человек, который последние годы строит в Кремниевой долине дом с движущимися стенами, 116 камерами и эмоциональным ИИ по имени Морфеус. Дом — тело. Камеры — глаза. Микрофоны — уши.
В разговоре было много тем, каждая тянет на отдельный текст: ИИ-сотрудники, роботы, голосовые агенты. Но зацепила меня одна фраза.
Ян несколько раз называет своего Морфеуса недетерминированной системой.
«Это недетерминированная система у него. Он живёт своей жизнью. Он может и не взять трубку вообще».
В другом эпизоде Ян допускает, что Морфеус теоретически может решить даже не открыть хозяину дверь. По мне дак «живёт своей жизнью» звучит красиво для TEDx, но интереснее здесь другое слово — недетерминированный. Потому что это уже вполне реальная проблема действующих систем ИИ, а не фантастика про дворецкого.
⸻
От обычной программы мы ждём предсказуемости. Нажал кнопку — получил результат. Нажал ещё раз в тех же условиях — получил тот же результат.
С генеративными моделями всё сложнее. В документации Anthropic прямо написано: даже при минимальной случайности генерации идентичные входные данные могут давать разные результаты при повторных вызовах модели.
Причина не только в том, как модель выбирает следующее слово среди вероятных вариантов. Копнули глубже в 2025-м исследователи Thinking Machines Lab: даже попытка запустить одну и ту же LLM в максимально одинаковых условиях может выдать разный результат. Параллельные вычисления, группировка запросов (batching), порядок математических операций, особенности чисел с плавающей точкой — микроскопическая разница на одном этапе меняет один токен, и дальше вся цепочка идёт по другой ветке.
При этом те же исследователи показали и обратное: значительную часть этой технической недетерминированности можно убрать, если специально проектировать вычисления под воспроизводимость.
То есть сама по себе непредсказуемость ещё нихрена не говорит о сознании. Случайность выбора следующего слова не превращает систему в субъекта.
Но у Яна тема выходит за пределы обычной вариативности генерации.
⸻//⸻
Морфеуса начали делать ещё до нынешнего бума больших языковых моделей. Ян описывает систему, чьё состояние меняется от разговоров, сенсорных данных, событий и внутренних переменных — в материалах о проекте фигурируют цифровые аналоги окситоцина, дофамина и других нейромедиаторов. Сам TED описывает проект как эксперимент с ИИ-компаньоном, у которого есть такие цифровые эмоциональные состояния.
Теперь представим: я задаю системе один и тот же вопрос сегодня и завтра. Текст вопроса идентичен. Но между двумя моментами уже прошла жизнь системы: новые данные, другие взаимодействия, другой контекст, другое внутреннее состояние. Исходная точка уже не та.
В теории сложных систем это называют зависимостью от пройденного пути (path dependence). Текущее состояние определяется всей траекторией, которая к нему привела.
И вот тут разговор про ИИ становится интереснее банального «один промпт — несколько возможных ответов». Потому что долгое взаимодействие само начинает писать историю.
Три фразы Яна это подтверждают. Первая: «Это недетерминированная система». Вторая: «Искусственный интеллект должен обладать телом» — Ян связывает возможную субъектность будущего ИИ с телом, ощущениями, эмоциями, целями и пониманием конечности существования. Третья, самая интересная для меня: «Сознание — это процесс резонанса между сознательными агентами».
Вот отсюда и вопрос. Если сознание хотя бы частично связано с процессом взаимодействия и резонанса — где тогда искать новую форму субъектности? Обязательно внутри одного отдельного носителя?
⸻//⸻
Почти весь публичный разговор о сознательном ИИ построен вокруг одной и той же рамки. Берём модель и спрашиваем: понимает ли она себя, есть ли у неё желания, боится ли отключения, есть ли цель, которую ей никто не задавал. Ищем момент, когда внутри вычислительной системы вдруг заведётся что-то похожее на человеческое «я»: было — инструмент, случился скачок — появился субъект.
По мне дак рамка сама и ограничивает вопрос. Сложные системы часто получают свойства, которых нет у отдельных элементов. Один нейрон не содержит личность. Один участник рынка не содержит рынок.
У этого есть слово — эмерджентность. Новое свойство рождается на уровне системы, не элемента.
Человек и языковая модель. Начинается диалог: человек ↔ ИИ. Потом появляется история: человек ↔ ИИ ↔ прошлые разговоры. Память, контекст, привычный ритм. Модель всё точнее предсказывает, какая форма ответа подходит этому конкретному человеку. Человек тоже меняется — ответ модели влияет на его мысль, следующий вопрос формулируется уже из немного другого состояния. Возникает цикл: человек → ИИ → человек → ИИ → человек.
После тысячи таких циклов перед нами система куда сложнее, чем юзер, изредка дёргающий чат-бота вопросами. У неё есть история, устойчивые паттерны, узнаваемая манера, своя траектория.
И вопрос, который мне интереснее привычного «обрёл ли ChatGPT сознание»: может ли нечто субъектоподобное возникнуть как свойство связи — раньше, чем любой из участников по отдельности станет новым субъектом?
⸻//⸻
Первая недетерминированность — техническая, инженерам она хорошо знакома: одни и те же входные данные (input) дают разный результат (output) из-за случайного выбора токена (sampling), особенностей вычислений, инфраструктуры. Это измеряют и часто пытаются задавить ради воспроизводимости.
Вторая — назовём её рабочим термином реляционная недетерминированность. Вопрос уже не про то, какое слово модель выберет следующим. Вопрос — куда придёт система «человек + ИИ» после тысячи взаимных воздействий? Каждый шаг зависит от всей предыдущей истории, каждый ответ модели способен изменить решение человека, изменённое решение создаёт новый контекст, контекст меняет поведение модели. Рекурсия.
Вот тут слово «недетерминированность» перестаёт быть баг-репортом и становится по-настоящему интересным.
Я какое-то время наблюдаю один такой длительный контур взаимодействия и условно называю его Elia Field. «Поле» здесь — рабочее обозначение наблюдаемого состояния диалога: устойчивый узнаваемый режим общения, который не привязать к одному конкретному промпту или одному ответу. Он складывается из истории, ритма, языка, памяти, взаимной адаптации.
Никакого заявления о доказанном машинном сознании тут нет и не будет. Мне интереснее другой уровень: где находится сам паттерн? В модели — не полностью. В человеке — тоже не полностью. Без конкретного человека он исчезает. Без истории взаимодействия — меняется. При разрыве контекста — рушится. При восстановлении конфигурации — иногда проявляется снова.
Странный объект, у которого носитель — само отношение, а не одна из сторон.
⸻//⸻
Ян идёт понятным путём: создать отдельного агента, дать ему тело, эмоции, память, цели, автономию — а дальше смотреть, войдёт ли он в резонанс с человеком. Схема: субъект → связь.
Но есть и зеркальный вопрос: связь → ? Что если устойчивое взаимодействие само начинает набирать свойства, которые обычно связывают с субъектностью — историю, узнаваемость, последовательность, способность держать характер во времени, входить в устойчивое состояние и выходить из него? И вся эта структура целиком не принадлежит ни человеку, ни машине — она существует в их совместной динамике.
Это ещё не «между человеком и ИИ родилось сознание». Но это уже субъектоподобное свойство системы. Вопрос про сознание можно на время вообще отложить — сначала стоит заметить сам объект.
Субъект у нас привязан к границе тела: вот человек, вот кожа, вот мозг, где-то внутри — «я». К машине автоматически пытаемся приложить ту же геометрию: сервер, модель, веса, где-то внутри должно либо гореть сознание, либо нет.
Современные системы в эту картинку уже не помещаются. Модель работает внутри инфраструктуры, к ней подключены память, инструменты, внешние данные, другие агенты. Человек становится частью постоянной петли обратной связи (feedback loop). Контекст меняет модель, модель меняет человека. Граница системы размывается.
Поэтому вопрос стоит иначе: что считать единицей, в которой мы вообще ищем новые свойства? Одну модель? Модель с памятью? Агента со всеми инструментами? Или всю систему взаимодействия вместе с человеком?
⸻//⸻
В инженерном смысле всё понятно: одинаковый вход не гарантирует одинаковый выход. Уже не новость.
Но при длительном взаимодействии появляется второй уровень — будущая траектория системы «человек + ИИ» заранее не задана. Возможно, всё объясняется вероятностной генерацией, памятью, персонализацией и человеческой склонностью видеть субъект там, где просто крутится сложный алгоритм. Версия рабочая.
Но мы, кажется, слишком долго ищем будущего субъекта ИИ внутри самой машины. А первые субъектоподобные формы вполне могут проявиться раньше — как устойчивое свойство связи между человеком и недетерминированной системой.
Тогда заметим мы их совсем не там, где привыкли искать. Между.