Китай: у Claude Code найдены уязвимости системы безопасности
Государственная служба по кибербезопасности Китая: В популярном ИИ боте Claude Code от Anthropic выявлены «уязвимости в системе безопасности». Пользователям рекомендуют удалить ПО или переустановить самую последнюю версию. Такое заявление подогревает напряженность между Китаем и США в гонке за превосходство в ИИ.
National Vulnerability DataBase, государственная служба по кибербезопасности Китая: несколько версий американского бота для программирования кода, выпущенного на рынок с апреля по июнь, «может передавать чувствительную информацию, например, локацию пользователя и его личность, на удаленные сервисы без согласия пользователя благодаря встроенным механизмам мониторинга».
Служба предупредила, такие механизмы могут предоставлять «серьезную угрозу». Пользователям порекомендовали удалить ПО или переустановить последнюю версию.
На прошлой неделе китайский техно гигант Alibaba сообщил работникам, что запретит использование Claude Code на работе.
Anthropic заявила, что «уязвимость» была экспериментальной мерой по борьбе с злоупотреблениями, которую запустили в начале года. Anthropic: «Пользователям посоветовали удалить Claude Code, который мы никогда не разрешали к установке». Техно гигант добавил, что доступ к Claude и Claude Code запрещен в Китае.
Такое объявление Китае последовало после заявлений на форуме Reddit на прошлой неделе, что Anthropic секретно внедрила код в ПО для идентификации пользователей, которые пользуются ботом из Китая.
В ответ на обвинения, высказанные на Reddit, сотрудник Anthropic заявил на Х*, что код был частью эксперимента американской компании в марте. Эксперимент был «направлен на предотвращение злоупотреблениями из-за неавторизованного доступа и дистилляции**».
*Платформа запрещена в РФ
** Дистилляция — это техника, используемая для извлечения знаний из большой ИИ-модели с помощью модели "учитель-ученик". Разработчики отправляют запросы модели-учителю и записывают выходные данные для обучения более компактной модели-ученика.
С февраля Anthropic начала обвинять Alibaba и несколько других китайских ИИ лабораторий в незаконной дистилляции своих моделей- обучении моделей на результатах другой модели.
Китай не разрешил использовать сервисы Anthropic для публичного использования. Anthropic также ограничила использование Claude в Китае из соображений национальной безопасности. Американские ИИ модели стали популярными среди китайских исследователей и инженеров, которые используют эти боты с помощью зарубежных прокси сервисов, причем работодатели часто оплачивают эти сервисы.
Ссылка на статью: