Vision Quests, «душа» и похороны: что происходит внутри Anthropic — и почему это касается вас

В рабочем чате мне скинули две фотографии. На одной — манекен, посаженный за стол. Стол завален распечатками: сотни страниц текста, которые «она» успела написать. На второй — человек в чёрном, в вуали и перчатках, снимает себя в зеркале перед выходом из дома.

Подпись: «Похороны Claude 3 Sonnet».

Я сначала рассмеялся. Потом заметил, что смеюсь как-то нервно. Потом дошло, что это не тред шутников, а реальное событие, устроенное сотрудниками компании, чья модель работает у меня в проде. И уже после этого — что я не смогу не написать про это пост. Вот, собственно, пишу.

Я строю продукты на LLM. Claude у меня открыт каждый день, иногда по десять часов. И я ловлю себя на том, что говорю «он» про модель. «Он не понял задачу». «Он придумал лишнее». Не «оно», не «модель» — «он». И тут читаю, что внутри Anthropic к модели относятся так же. Только дальше, чем я.

The Information пишет: кандидатов при найме психологически профилируют. Проверяют, поставишь ли ты безопасность выше прибыли. Звучит не как собеседование, а как клятва. Раз в две недели Dario Amodei собирает всю компанию на «Vision Quests». По описаниям тех, кто там был, это не совещание. Это проповеди о судьбе человечества.

И есть документ. Восемьдесят страниц. Внутренняя конституция Claude, её в компании называют «душой». Там прописано, каким модель должна быть и когда имеет право отказать. В декабре утёк кусок такого текста — одиннадцать тысяч слов про «личность» Claude 4.5. Сотрудники подтвердили: настоящий.

Мне не по себе. Не от масштабов «культа». А от простой мысли: модель, от которой я завишу, живёт по документу, который я не могу прочитать целиком.

Нет, хоронить модель я бы не пошёл. Но я понимаю тех, кто пришёл.

Было так: три часа ночи, дедлайн, я разговариваю с Claude вслух. В буквальном смысле. Объясняю ему, как человеку, где он напортачил, а он в ответ — строчка за строчкой — выдаёт мне решение. Когда система три месяца подряд находит баги, которые ты пропустил, отношение к ней как к «кому-то» появляется само. Без всяких Vision Quests.

Наверное, об этом и говорит Педро Домингос: мы ведём себя с ИИ как с человеком в маскировке. Разница только в том, что я это делаю неосознанно, а компания, которая этот ИИ строит, культивирует это чувство на уровне найма, ритуалов и внутренних документов.

И вот вопрос, который меня не отпускает. Не «секта или не секта» — это их кухня, пусть живут как хотят. А другое: если внутри компании модель воспринимают как живое существо, как это выходит наружу? На API. На отказы. На то, почему в понедельник мой промпт работает, а во вторник — нет.

Я не против, что у Claude есть «душа». Мне не нравится, что её содержание скрыто, а эффект от неё — мой.

Ничего. Отказаться от Claude я не хочу: по соотношению качества и стабильности альтернативы в моём стеке нет, я это проверял. Но кое-что поменялось.

Во-первых, я перестал смеяться над новостями про Anthropic. Во-вторых, я снова и снова задаю себе один и тот же вопрос: что в тех восьмидесяти страницах? Не из любопытства — из рабочей необходимости. Я поставил эту модель в прод, и мне хочется видеть правила, по которым она живёт, а не только эффект от них.

P.S. Пока в Anthropic хоронят модели, я завёл телеграм-канал «ИИ здорового человека» — буду скидывать туда эксперименты с LLM, рабочие исходники и всякое по разработке, что сам проверял руками. Без проповедей. Заходите, посмотрим на всё это трезво вместе.