Голова или туловище: кентавры, антихрупкость и цена подписки на собственный мозг

Почему в эпоху ИИ-агентов главный вопрос - не «сколько автоматизировано», а «кто кого дополняет»

После победы Deep Blue над Каспаровым в 1997 году в шахматах появился странный формат: человек играет в паре с программой. Такую связку назвали кентавром - человеческая голова на машинном туловище. Человек оставался главным: он принимал решения и задавал направление, а машина усиливала его - считала варианты, брала на себя рутину. Какое-то время такие пары обыгрывали и лучших гроссмейстеров-одиночек, и сильнейшие программы. Кентавр стал любимым аргументом технооптимистов: человек плюс ИИ сильнее, чем ИИ сам по себе.

Писатель и активист Кори Доктороу добавил к этой метафоре вторую половину, без которой она была опасно неполной. Обратный кентавр - та же связка, но перевёрнутая: машинная голова на человеческом туловище. Главной становится система, а человек - её придатком, затыкающим дыры там, где автоматизация пока не справляется. Курьер, чей маршрут, темп и перерывы диктует алгоритм. Работник склада, которого система отслеживает и подгоняет поштучно. Модератор, механически подтверждающий решения классификатора. Водитель «беспилотника», обязанный часами пассивно смотреть на дорогу, чтобы вмешаться в одну аварийную секунду. Человека используют ради его глаз, рук и юридической ответственности - но лишают автономии и суждения.

Суть различия не в количестве технологий, а в структуре власти. Кентавр - это автоматизация, подчинённая человеческим целям. Обратный кентавр - человек, подчинённый логике машины. И вот что принципиально: одна и та же технология может сделать из вас и то, и другое. Всё решает не модель, а тот, кто держит рубильник и в чьих интересах настроена система.

Есть простой проверочный вопрос, к которому мы будем возвращаться: если ИИ проверяет вашу работу - вы кентавр; если вы проверяете работу ИИ на его скорости и по его правилам - вы уже на пути к обратному кентавру.

Чтобы понять, почему обратный кентавр - это не просто неприятно, а опасно, нужна вторая концепция. Нассим Талеб начал книгу «Антихрупкость» с наблюдения, что у нас нет слова для противоположности хрупкого - и это дыра не в языке, а в мышлении.

Противоположность хрупкого - не прочное. Хрупкое ломается от стресса; прочное его выдерживает и остаётся прежним. Но есть третья категория: то, что от стресса, ошибок и беспорядка становится лучше. Мышцы растут от нагрузки. Иммунитет тренируется на патогенах. Эволюция работает только благодаря шуму и отбору. Это и есть антихрупкое. В мифологической шкале Талеба хрупкость - дамоклов меч, прочность - феникс, антихрупкость - гидра: отрубаешь голову, вырастают две.

Из этой рамки следует несколько выводов, которые понадобятся дальше.

Первый: подавление волатильности делает систему хрупче. Если гасить каждый мелкий лесной пожар, накапливается сухостой - и однажды случается катастрофический. Малые стрессоры - это информация; лишая систему стресса, вы лишаете её обучения.

Второй: антихрупкость - это про асимметрию, а не про предсказание. Редкие события не прогнозируются; вместо этого нужно выстраивать позиции, где потенциальный ущерб ограничен, а выгода - нет. Практическое воплощение - «штанга»: крайняя осторожность в основном, крайний риск в малом, и никакой «умеренно рискованной» середины, где риски всегда недооценены.

Третий: опциональность важнее знания. Тот, у кого есть право (но не обязанность) действовать, выигрывает от неопределённости, ничего не предсказывая. Долг - противоположность опциональности: он отнимает право на плохой месяц, и потому долг - главный механизм охрупчивания.

Четвёртый: шкура на кону. Хрупкость систем создают люди, которые получают выгоду от риска, не неся его последствий. Требование Талеба - симметрия: советуешь - рискуй вместе с теми, кто следует совету.

И пятый, самый неудобный: антихрупкость системы часто оплачивается хрупкостью её частей. Экосистема стартапов антихрупка, потому что отдельные стартапы гибнут. Вопрос всегда в том, на каком уровне вы меряете антихрупкость - и кто платит за чужую устойчивость.

Теперь соединим рамки. Обратный кентавр - это человек, из работы которого выжали весь люфт: паузы, самостоятельные решения, право отклониться от сценария. По метрикам это идеально. По Талебу - это система, которая перестала получать информацию от стресса. Хрупкость здесь не побочный эффект, а проектное решение. У кентавра же есть опциональность: право пробовать, ошибаться по мелочи и перехватывать управление. Его мелкие ошибки - те самые малые стрессоры, через которые учится и он, и система. У Доктороу и Талеба, по сути, один противник: культ оптимизации, выжимающий из систем весь запас прочности.

Сериалу «Чёрное зеркало» понадобилась одна серия, чтобы буквализовать обе концепции сразу. В «Common People» (первая серия седьмого сезона) учительница Аманда впадает в кому из-за опухоли мозга. Стартап Rivermind предлагает мужу спасение: поражённую часть мозга удаляют, а недостающая часть сознания стримится с серверов компании. Операция бесплатно. Дальше - по подписке.

Аманда - предельная форма обратного кентавра. У Доктороу метафора всё-таки образная: алгоритм диктует курьеру маршрут, но голова у курьера своя. У Аманды машинная «голова» вживлена физически: часть её мышления исполняется на чужих серверах, по чужим правилам, в чужих интересах. Кульминация - момент, когда на базовом тарифе она начинает произносить рекламу: посреди урока её рот озвучивает промо-вставки, а она этого даже не осознаёт. Человеческое тело как канал дистрибуции чужого контента. И классический признак обратного кентавра на месте: её используют именно за то, что она человек - живой голос, доверие учеников, - но лишают суждения и даже ведома о том, что она делает.

Rivermind при этом идеально проходит цикл, который Доктороу назвал эншиттификацией (дерьмофикацией) платформ: сначала сервис хорош, чтобы привязать пользователей, потом ценность перекачивается к бизнесу, потом выжимается всё. Зона покрытия сужается, в базовый тариф вшивается реклама, нормальная жизнь переезжает в тариф Plus, «полнота ощущений» - в Lux. С одной поправкой, которая делает серию хоррором: цена выхода из платформы - смерть. Vendor lock-in, доведённый до абсолюта.

По Талебу сделка с Rivermind - идеально хрупкая позиция, собранная из всего, против чего он предостерегает. Подписка - вечный долг без права на ошибку. Опциональность - нулевая: нет выхода, нет альтернатив, одна большая необратимая ставка. Асимметрия вывернута наизнанку: выигрыш ограничен (просто жить как раньше), проигрыш неограничен (тарифы растут бесконечно, деградация сервиса не имеет дна). Единая точка отказа вместо избыточности. И полное отсутствие шкуры на кону у сильной стороны: менеджер Rivermind ничем не рискует, повышая тарифы, - все последствия несёт семья, у которой в заложниках буквально мозг.

При этом сама Rivermind как компания вполне антихрупка: она экспериментирует с тарифами и апсейлом, и каждый «стресс» оттачивает её бизнес-модель. Её антихрупкость целиком оплачена хрупкостью клиентов - волатильность не исчезла, её перелили сверху вниз, на тех, кто не может отказаться.

Показательно, что технология в серии работает безупречно: ни одного сбоя. Ломается не машина - ломается человек, встроенный в неё на чужих условиях.

Теперь снимем эту рамку с фантастики и наденем на текущий момент - повсеместное проникновение ИИ-агентов в работу.

Массовое внедрение агентов - это момент, когда вопрос «кто кого дополняет» решается заново для миллионов профессий сразу, причём не один раз, а в каждой рабочей связке отдельно. Программист, который ставит агенту задачу, читает его код и решает, что принять, - кентавр. Тот же программист, чей работодатель поднял норму выработки втрое, «потому что теперь у тебя есть агент», и который вынужден одобрять сгенерированный код на скорости конвейера, не успевая его понимать, - уже обратный. Инструмент тот же. Модель та же. Перевернулась структура власти.

Коварство момента в том, что переворот происходит незаметно и добровольно. Никто не приставляет к вам алгоритм-надсмотрщик - вы сами, шаг за шагом, делегируете суждение, потому что агент быстрее, а дедлайн горит. Сначала он пишет черновик, потом финальную версию, потом вы перестаёте читать то, что подписываете. Обратный кентавр эпохи агентов - это не курьер под алгоритмом. Это профессионал, который ещё числится головой, но фактически стал органом подписи при машине.

Талебовский тезис о подавленной волатильности здесь превращается из метафоры в механизм. Написать неудачный абзац и переписать, застрять в отладке на два часа, самому продраться через незнакомую тему - это и были малые стрессоры, на которых росла компетентность. Агент гасит их все. Работа становится гладкой - а способность работать без агента тихо атрофируется, как мышца в гипсе.

Атрофируется именно то, что нужно в нештатный момент: способность заметить, что агент ошибся. Возникает петля: чем больше делегируешь, тем хуже проверяешь; чем хуже проверяешь, тем больше приходится доверять. Система выглядит всё эффективнее и становится всё хрупче - талебовская индюшка, у которой каждый день перед Днём благодарения подтверждает, что всё прекрасно.

Параллель с Rivermind здесь почти неприличная. Агент, в которого вы перенесли рабочую память, стиль, контекст и процессы, - это функциональный протез, стримящийся с чужих серверов по подписке. Дальше - по учебнику эншиттификации: сначала сервис прекрасен и дёшев, потому что идёт борьба за пользователей; потом наступает пора монетизации - тарифы растут, лимиты сужаются, лучшие возможности уезжают в дорогие планы, а у платформы появляется соблазн, чтобы агент служил не только вам. Чьи товары он рекомендует? Чьи интересы учитывает при выборе?

Цена выхода растёт с каждым месяцем, потому что выход - это уже не смена инструмента, а ампутация встроенного в процессы протеза. Мы пока в фазе «бесплатной операции». Условия подписки объявят позже - они всегда объявляются позже, когда выходить уже дорого.

На уровне компаний и платформ система выглядит антихрупкой: тысячи экспериментов с агентами, неудачные умирают, удачные масштабируются. Но издержки этих экспериментов несут конкретные люди. Джуниор, чью ступеньку в профессию агент просто убрал - «простые задачи» кончились, учиться не на чем. Фрилансер, чей рынок схлопнулся за год. Сотрудник, на которого повесили выработку троих. Антихрупкость экосистемы снова оплачена хрупкостью людей внутри неё - волатильность не исчезла, а перелилась вниз, к тем, кто не выбирал.

Беречь суждение как актив, а не как издержку. Обратным кентавром человека делает не объём делегированного, а исчезновение момента, когда он сам решает «принять или переделать». Этот момент надо охранять процедурно: всё, что уходит наружу под вашим именем - код в прод, письмо клиенту, диагноз, договор, - проходит через осознанное чтение, а не через рефлекторное «выглядит нормально». Поймали себя на том, что одобряете не читая, - это не мелкая небрежность. Это тот самый переворот связки; он происходит именно здесь и именно так.

Тренировать мышцу до того, как понадобится снять гипс. Атрофия коварна тем, что незаметна изнутри: кажется, что вы «всё ещё умеете, просто не делаете». Проверяется это только практикой. Устраивайте себе регулярные дни без ассистента: написать документ самому, отладить проблему руками, посчитать без подсказки. Не из луддизма - как пожарные учения: вы проверяете резервную систему, пока пожара нет. Если без агента вы беспомощны в собственной профессии, вы уже не пользуетесь инструментом - вы висите на аппарате жизнеобеспечения, просто счёт пока не выставили.

Удерживать право на выход - и понимать его шире, чем «могу сменить подписку». Настоящее право на выход - это когда ваши процессы, знания и данные переживают смену платформы: промпты и наработки лежат у вас, а не только в истории чужого чата; критичные процессы описаны так, что переносимы; цена переезда вам примерно известна до того, как переезд станет вынужденным. Полезный тест: если завтра ваш основной агент подорожает втрое или ухудшится - что вы сделаете послезавтра? Если ответа нет, у вас нет выхода, а есть только нарастающая цена лояльности. Аманда не выбирала кабалу - она однажды обнаружила, что выход уже стоит дороже, чем она может заплатить. С платформами это работает так же, только медленнее.

Не принимать чужой темп как закон природы. Обратного кентавра создаёт не агент, а норма выработки, пересчитанная под агента. Скорость, с которой вы способны проверять, - это реальный предел вашей производительности, и его стоит защищать явно: «я могу выпускать втрое больше, но ревьюировать втрое больше не могу - выбирайте, что вам нужно». Это неудобный разговор, но он честнее, чем молча стать конвейером с человеческой подписью.

Держать штангу. Делегировать агентам радикально - рутину, черновики, механику. Удерживать за собой столь же радикально - ядро: суждение, финальное решение, понимание «почему». И избегать мутной середины, где агент «вроде решает, а вы вроде отвечаете»: именно там, как всегда у Талеба, риски недооценены сильнее всего.

Теперь взгляд с другой стороны рубильника - потому что работодатель, превращающий сотрудников в обратных кентавров, ставит талебовскую ловушку прежде всего на себя. Просто счёт приходит с задержкой, и в этом вся коварность: первые кварталы такая стратегия выглядит триумфом. Выработка растёт, штат сокращается, метрики зеленеют. Это фаза индюшки - каждый день подтверждает, что решение было верным.

Скрытых статей в счёте несколько.

Деградация проверяющего слоя. Компания, пересадившая людей на приёмку машинного вывода в машинном темпе, постепенно теряет способность отличать хороший вывод от плохого. Ошибки агентов перестают отлавливаться не потому, что их стало больше, а потому что некому и некогда их видеть. Качество падает не резко, а дрейфом - и обнаруживается не на ревью, а в инциденте, у клиента, в суде. К этому моменту в компании может не остаться никого, кто способен разобраться в накопленном машинном слое: понимание системы уходило вместе с практикой её ручного создания.

Разрушенная лестница воспроизводства компетенций. Джуниорские задачи отданы агентам - «зачем платить человеку за то, что делает подписка». Но джуниорские задачи были не продуктом, а тренажёром, на котором выращивались будущие сеньоры - те самые люди, которые единственные могут проверять агентов. Компания съедает посевной фонд собственной экспертизы. Эффект отложен лет на пять: нынешних сеньоров хватит надолго, но они стареют и уходят, а замены не растёт ни внутри, ни - что хуже - на рынке, потому что все резали одну и ту же ступеньку одновременно. Классическая ошибка подавления волатильности: убрали «неэффективное» обучение через ошибки - получили монокультуру, которой не из чего восстанавливаться.

Потеря источника адаптации. Сигналы о том, что в процессах что-то не так, идеи «а можно иначе», низовая изобретательность - всё это побочный продукт людей, у которых есть люфт: время думать, право отклониться, вовлечённость в смысл работы. Обратный кентавр таких сигналов не подаёт - не потому что глуп, а потому что ему структурно не за что и некогда. Компания глохнет: снаружи меняется рынок, внутри исполняется оптимизированный сценарий. А сотрудники с сохранившимся суждением - то есть самые ценные - уходят первыми, потому что именно они острее всех чувствуют превращение в орган подписи. Остаётся отрицательный отбор: те, кого устраивает не думать.

Короткая позиция против редкого события. Экономия на людях-с-суждением реальна и ежеквартальна; расплата - редка и катастрофична. Нештатная ситуация, которую некому распознать. Каскадная ошибка агентов, которую некому остановить. Провал платформы-поставщика, от которой нет независимости. Менеджер, который всё это устроил, к моменту расплаты обычно уже получил бонус и ушёл - отсутствие шкуры на кону, замыкающее картину. Ущерб несут акционеры, клиенты и оставшиеся сотрудники: как всегда у Талеба, не те, кто принимал риск.

Формула короткая: сотрудник без права на суждение - это дешёвый сотрудник сегодня и слепая зона завтра. Работодатель, выжигающий кентавров ради обратных кентавров, экономит на страховке, которую нельзя докупить в момент пожара, - потому что эта страховка и есть люди, умеющие думать без машины.

Агенты сами по себе не делают вас ни кентавром, ни обратным кентавром, ни хрупким, ни антихрупким. Они - мультипликатор той структуры, в которую встроены. Если у вас сохраняются суждение, право на ошибку и право на выход - агент делает вас сильнее с каждым сбоем: это гидра. Если оптимизация выжала этот люфт - вы становитесь гладким, эффективным, идеально хрупким узлом, который прекрасно работает до первого нештатного дня: это дамоклов меч, и он уже висит.

Технология, как и в «Common People», будет работать безупречно. Вопрос - единственный, тот же, что задают и Доктороу, и Талеб, каждый на своём языке, - в том, на чьих условиях вы в неё встроены. И отвечать на него лучше сейчас, пока операция ещё бесплатная.