Противостояние США и Anthropic: ИИ-модель Claude под угрозой
Интересно наблюдать, как в США развивается противостояние между трамповской администрацией и Anthropiс — компанией, известной своей языковой моделью Claude.
До недавнего времени они были привилегированным партнером Вашингтона — первой ИИ-компанией, которая развернула свои технологии в засекреченных сетях Пентагона с контрактом на $200 миллионов. Но вот когда военные потребовали неограниченного доступа к возможностям Claudе, как говорилось, для всех возможных «законных целей» (что включало и массовую слежку, и использование ИИ-технологий в автономных оружейных системах), то компания сказал «нет».
Реакция была мгновенной. Anthropic получила статус так называемой «угрозы для цепочки поставок» — такой ярлык прежде вешали исключительно на разные иностранные «враждебные» компании. Фактически, американскую корпорацию признали угрозой для нацбезопасности США. А Трамп приказал всем государственным агентствам прекратить использование продуктов компании. Начались суды. Буквально вчера стало известно, что суд в США отклонил запрос Anthropic исключить ее из перечня рисков для национальной безопасности.
Но, ха-ха, теперь другая угроза. Новая модель от Anthropic под названием Claude Mythos оказалась настолько мощной, что в Пентагоне и Уолл-стрит по-настоящему испугались. Компания заявила, что модель самостоятельно нашла тысячи критических уязвимостей (некоторые баги вообще 27-летней давности) — в каждой крупной операционной системе и каждом браузере.
Сам Anthropic прямо признает: специально обучать модель взлому не планировали — способности появились сами, как побочный эффект общего улучшения качества рассуждений и программирования. Из-за этого они даже не стали выпускать свой продукт на широкий рынок, а пока передали доступ лишь Amazon, Apple, Microsoft и ряду других крупных компаний.
Министр финансов и глава ФРС в срочном порядке собрали банковских боссов Goldman Sachs, Bank of America, Morgan Stanley и др. на закрытое совещание. Обсудить, что делать с всесильным ИИ-хакером.
Подписывайтесь на Telegram Грокс.