Anthropic заявила, что разработала новые меры безопасности, которые «значительно» сократят количество атак с попыткой скопировать возможности моделей
Они предотвращают «множество» попыток украсть данные.
- По данным компании, новые меры сократили объём данных, собираемых в процессе атак методом дистилляции, примерно на 90-99%, пишет Reuters.
- При таких атаках злоумышленник отправляет «миллионы» простых запросов к продвинутой модели, а потом собирает её ответы и цепочки скрытых рассуждений. Затем эти данные используют для обучения другой модели, объясняет Anthropic.
- При этом цепочки рассуждений дистилляторов интересуют больше всего — они позволяют понять, как модель пришла к окончательному ответу.
- Anthropic снизила количество атак за счёт контроля цепочки рассуждений: например, внедрила в Claude Fable 5.1 и Claude Opus 5.5 «сохранённое мышление» — функцию, которая не позволяет новым пользователям редактировать предыдущий контекст Claude. Это не даёт извлекать цепочку рассуждений.
- Кроме того, компания отслеживает и блокирует попытки извлечения данных, а также распознаёт аккаунты, которые используются для дистилляции, и «банит» их.
- В феврале 2026 года Anthropic рассказала, что обнаружила три «кампании по дистилляции промышленного масштаба». По её словам, китайские DeepSeek, Moonshot и MiniMax незаконно использовали «возможности» Claude, чтобы улучшать собственные модели. В конце июня компания обвинила в том же Alibaba.
- Однако в Китае от обвинений «отмахнулись», писало Bloomberg в июле. Представитель китайского МИД Лю Бин тогда заявил, что «некоторые страны слишком сильно акцентируют внимание на дистилляции».
- В сентябре 2026 года ФБР, Агентство национальной безопасности и Агентство по кибербезопасности и защите инфраструктуры опубликовали совместное заявление, в котором обвинили DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun и Z.AI в систематическом копировании передовых американских ИИ-моделей.