Wired: власти США потребовали от Anthropic заблокировать все способы обхода ограничений Fable 5
Но полностью устранить уязвимости «невозможно», говорят эксперты.
Источник: Bloomberg
- Если Anthropic хочет повторно выпустить Fable 5, она должна гарантировать, что защитные ограничения модели невозможно обойти, заявили Wired в администрации президента США.
- Anthropic настаивает, что масштаб проблемы преувеличен, а последствия джейлбрейков «минимальны». По словам источников, компания повторила эту позицию на технической встрече с представителями американских властей.
- При этом чиновники заявили, что не намерены спорить о серьёзности уязвимостей после того, как Агентство национальной безопасности подтвердило возможность отключения ограничений Fable 5, отмечает Wired.
- Администрация Трампа считает, что Anthropic должна действовать «проактивно» и постоянно тестировать все свои передовые модели ИИ, чтобы находить потенциальные способы обхода ограничений и самостоятельно сообщать о них властям.
- Опрошенные изданием эксперты по кибербезопасности считают, что полностью исключить обход ограничений невозможно. По их словам, это лишь временная мера — некоторые пользователи и будущие ИИ-модели всё равно будут находить способы их обойти.
- Anthropic представила Claude Fable 5 — первую общедоступную модель класса Mythos — в начале июня 2026 года. Чтобы модель не использовали злоумышленники, компания добавила меры защиты. Например, на запросы по некоторым темами отвечала не Fable 5, а Claude Opus 4.8. Тогда же стартап выпустил закрытую версию Mythos 5 — для «небольшой группы» специалистов по кибербезопасности и провайдеров инфраструктуры.
- В июне 2026 года Anthropic отключила доступ к Fable 5 и Mythos 5 всем клиентам после требования властей США заблокировать модели для иностранцев. Причиной претензий к компании стало появление джейлбрейков для Fable 5.
- WSJ писало, что Anthropic отправила ведущих технических специалистов на переговоры с американскими чиновниками, чтобы добиться отмены ограничений.