Anthropic сообщила, что новые защиты от дистилляции сократили объём извлекаемых у Claude «рассуждений» в 10–100 раз
Компания называет результат предварительным и ждёт, что обход защит будет продолжаться.
- Anthropic опубликовала описание защит от дистилляции — скрытого извлечения возможностей одной модели, чтобы обучить другую. По данным компании, число «токенов рассуждений», которые извлекают дистилляторы, стало в 10–100 и более раз ниже, чем раньше.
- «Рассуждения» Claude — самые ценные данные для таких атак: по ним видно, как модель приходит к ответу. В тесте Anthropic предобученная модель, которую учили на полных записях рассуждений Claude Opus 4.8, набрала 80,4% в SWE-bench Verified, на сокращённых — 71,8%.
- Защиты трёхслойные. Рассуждения недоступны более ранним моделям со слабыми защитами, а у Claude Sonnet 5.5 их видит только организация, чей запрос их породил. Двухступенчатый классификатор блокирует попытки вытянуть рассуждения целиком, доля ложных срабатываний — ниже 0,1%. Аккаунтам, которые продолжают попытки, ограничивают лимиты, а затем блокируют.
- Одна из лабораторий протестировала 12 000 запросов, пытаясь вытянуть из Claude рассуждения целиком. Среди обходов, которые компания закрыла патчами, — просьба перевести прежние рассуждения на другой язык.
- Anthropic называет два примера. Zhipu при создании GLM-5.3 дистиллировала возможности американских моделей в кибербезопасности. Запросы к моделям Kimi от Moonshot тайно пересылались в Claude.
- Компания заблокировала десятки тысяч связанных с дистилляцией аккаунтов, часто в течение двух часов после начала кампании. Одна сеть управляла более чем 20 000 поддельных аккаунтов одновременно.
- Для части разработчиков защиты означают изменения: аккаунты API, созданные с 31 августа 2026 года, не могут редактировать прежний контекст Claude в режиме preserved thinking. С 24 сентября Anthropic берёт плату за запросы, которые заблокированы до ответа Claude.
- Anthropic не знает, как долго сохранится эффект, и ждёт игры «в кошки-мышки». Компания не видела по-настоящему изощрённой попытки обойти новые меры и признаёт, что цель не вредить обычным пользователям выполнена не полностью.
- В июне 2026 года Anthropic направила в Сенат США письмо с обвинениями в адрес Alibaba, писал vc.ru в июле.
Промпты, инструменты и уроки по Claude — в Telegram-боте «Базы без воды».