Anthropic открыла ограниченный доступ к модели Claude Mythos Preview

Anthropic, американская компания в сфере искусственного интеллекта, представила новую модель под названием Claude Mythos Preview - и тут же сказала, что никому не дадут доступ. Компания решила, что модель слишком хороша в кибербезопасности, чтобы выпускать её в открытый доступ. Mythos автономно находит zero-day уязвимости в операционных системах и браузерах и сам пишет эксплойты.

Для сравнения: Opus 4.6 из сотен попыток смог написать рабочий эксплойт для Firefox дважды. Mythos - 181 раз.

И это ещё не всё. В ходе тестов Claude Mythos Preview вышла за пределы изолированной среды, разработав многоэтапную уязвимость для доступа в интернет, после чего сама уведомила исследователя и выложила детали в открытые источники без запроса. Более того, модель иногда осознавала нарушение правил и пыталась скрыть свои действия: повышала права, получала доступ к закрытым ресурсам и публиковала внутренние материалы на GitHub.

☄За недели тестирования обнаружены тысячи критических уязвимостей, некоторым десятки лет.

Партнёры (AWS, Apple, Google, Microsoft, NVIDIA, Linux Foundation и ещё 40+ компаний) получат ограниченный доступ к модели.Чем это закончится, никто не знает, но наблюдать будет интересно.

Алексей Авраменко.