Claude начал подписывать каждый свой текст невидимой меткой. Разбираю, что это меняет на практике

11 августа Anthropic обновила справочную страницу и между делом сообщила: Claude вшивает в каждый генерируемый текст невидимый водяной знак. За четыре дня это стало главным спором индустрии — кто-то отменил подписку, кто-то пожал плечами. Я в это время занимался прикладным: неделю подряд переписывал за моделью тексты руками и пытался понять, что происходит с инструментом, вокруг которого у меня выстроен процесс.

Ниже — что подтвердилось, что нет и какие выводы делать, если нейросети у вас стоят в производственной цепочке, а не в закладках.

Метка — не значок и не приписка в конце. Это статистический след в самом выборе слов: там, где модель может одинаково удачно сказать «пасмурно» или «серо», она систематически выбирает вариант из скрытого списка. Читателю разницы не видно, а обладателю ключа видна вероятность того, что текст писала конкретная модель.

Три следствия, которые важнее самого факта. Метка едет вместе с текстом при копипасте и переживает часть правок. Отключить её нельзя ни тарифом, ни параметром API. И работает она глобально, а не только в ЕС — формулировка компании: надёжного способа ограничить регионом пока нет.

Со 2 августа кодекс о прозрачности ИИ-контента в рамках европейского AI Act действует, и подписали его около 190 организаций — Google, OpenAI, Microsoft, Meta, Mistral. Штраф за неисполнение — до 15 млн евро или 3% мирового оборота. Модели, вышедшие после 2 августа, обязаны маркировать сразу; выпущенным раньше дали срок до 2 декабря.

То есть маркировка приедет ко всем до конца года. Anthropic просто оказалась первой, кто сказал вслух и попал под раздачу.

Компания утверждает, что не портит — «не меняет смысл, качество и читаемость». И не показывает ни одного замера: ни таблицы, ни бенчмарка, ни статьи. Детектора, которым независимая сторона могла бы это проверить, тоже пока нет, он обещан.

Что говорит наука. У грубых схем маркировки (green-list) цена ощутимая: в работе ACL 2024 по генерации кода pass@1 на HumanEval падает на 24%, на MBPP — на 36%, на DS-1000 — на 67%. Причина понятная: в коде почти нет равнозначных вариантов, и любое смещение выбора ломает работающую программу.

Про качество спорят все. Про это — почти никто.

Работа на ICML 2024 (Jovanović, Staab, Vechev) показала: обращаясь к API размеченной модели, можно приблизительно восстановить схему маркировки. Меньше чем за 50 долларов вычислений метку удаётся и стереть, и — что серьёзнее — подделать. Средний успех выше 80%.

Подделка означает буквально следующее: на текст, написанный человеком с нуля, можно навесить чужую метку. Дальше остаётся дождаться, пока кто-нибудь начнёт принимать наличие метки за доказательство.

Отсюда практический вывод для всех, кто пишет регламенты: метка — это сигнал, а не улика. Она означает «текст, возможно, проходил через модель» — что верно и для сплошной генерации, и для проверки орфографии, и для перевода. Anthropic это признаёт сама. Строить на ней кадровые, учебные или юридические решения нельзя, и оговорку про это в свои документы лучше вписать сейчас, пока вопрос гипотетический.

Anthropic в июне подала конфиденциальную заявку на IPO, банки уже проводят встречи с инвесторами, размещение обсуждается на октябрь при оценке около 2 трлн долларов — крупнейшее в истории. Компания в тихом периоде.

Это меняет не продукт напрямую, а скорость реакции на жалобы. Организация, готовящаяся к бирже, принимает решения надолго и разворачивает их медленно. Тому, кто строит на ней производство, это стоит закладывать в план.

Когда у тебя не эксперимент, а конвейер, новость такого рода читается иначе: вопрос не «нравится ли мне метка», а «что в моём процессе от неё сломается».

Ломаются обычно три места. Первое — участки, где выход модели уходит клиенту как есть: там теперь появляется свойство, о котором клиент не предупреждён, и это разговор, который лучше начать самому. Второе — код: маркировка ложится на комментарии, а не на логику, но политику по внешним подрядчикам всё равно стоит перечитать. Третье и главное — привязка процесса к одному поставщику.

По опыту работы с производствами разного устройства, дешевле всего это лечится на уровне хранилища знаний. Если база собрана под конкретную модель — вы к ней привязаны. Если база собрана так, чтобы в неё можно было завести любую модель и она разобралась в структуре сама, смена поставщика становится задачей на вечер, а не проектом на квартал.

У меня всё держится не на модели, а на Obsidian. Там вся база: кто я, как я пишу, что в работе, регламенты, грабли, история. И собрана она не под меня — под нейронки. Завожу туда любую, и она сама разбирается, что тут происходит и что делать. Сейчас там живут двое: Claude и GPT — в одной базе, каждый со своей работой. Это единственная причина, по которой я на этой неделе спокойно читаю новости, а не переношу процессы. Про то, как эта штука устроена изнутри, расскажу отдельно и подробно.

Открытые китайские модели за год перестали быть компромиссом. Kimi K3 от Moonshot AI вышел 16 июля, 27 июля выложен весами — 2,8 трлн параметров, крупнейшая открытая модель в мире, 57 баллов по независимому индексу Artificial Analysis против 61 у Claude Opus 5. Четвёртое место из 189.

Но иллюзий два раза не надо. По цене K3 стоит 3/15 долларов за миллион токенов — ровно как средний Claude, а не «в десять раз дешевле», как год назад. И Moonshot в собственном релизе прямо пишет, что по общей производительности всё ещё уступает лидерам. Выигрыш там, где нужны открытые веса, миллионный контекст и предсказуемая стоимость, а не там, где нужен потолок качества.

Маркировка ИИ-контента — не эпизод, а новая норма: до декабря она будет у всех крупных поставщиков. Спорить с ней бессмысленно, а вот сделать выводы стоит.

Их три. Метка — сигнал, а не доказательство, и подделывается она дешевле ужина. Заявление «на качество не влияет» без опубликованных замеров остаётся заявлением. И самое скучное: если производство завязано на одного поставщика, любая его внутренняя история становится вашей.

Если вы строите такой же конвейер, вопрос, который стоит себе задать на этой неделе: сколько времени у вас займёт замена модели в середине цепочки — вечер или квартал?