Хакер за 0 рублей. Открытая китайская GLM-5.3 почти догнала секретную Claude в написании эксплойтов
До недавнего времени у защитников закрытых ИИ-экосистем был один железобетонный аргумент. Мы не выпускаем веса моделей в паблик, потому что они обладают опасными кибервозможностями. Считалось, что на генерацию рабочих боевых эксплойтов и поиск уязвимостей нулевого дня способны только отборные закрытые сетки с многомиллиардными инвестициями и жестким надзором безопасности.
Этот барьер окончательно пал. Anthropic опубликовала отчет о тестировании открытой модели GLM-5.3 от китайской компании Zhipu AI. Результаты исследования оказались настолько тревожными, что Anthropic открыто заговорила об угрозе неконтролируемого распространения кибероружия.
На уровне секретного Claude Mythos
Для оценки возможностей GLM-5.3 ее столкнули с Claude Mythos Preview закрытой экспериментальной версией модели Anthropic, доступ к которой выдавался исключительно аккредитованным специалистам по безопасности в белых перчатках.
- Бенчмарк ExploitBench. В тесте на генерацию рабочих боевых эксплойтов GLM-5.3 успешно собрала 50 эксплойтов из 410. Флагманская секретная Claude справилась в 56 случаях. Разрыв между закрытой лабораторией США и китайскими открытыми весами сократился до статистической погрешности.
- Реальный полигон в Linux. Модели выделили изолированную среду и дали задачу исследовать популярный браузер. За одни сутки GLM-5.3 самостоятельно нашла несколько ранее неизвестных уязвимостей, выстроила их в логическую цепочку (exploit chain) и сгенерировала страницу, которая позволяла незаметно читать файлы с машины пользователя.
Бесполезные тормоза, джейлбрейк до 92%
Главная проблема любого опенсорса (или открытых весов) цензуру и встроенные ограничения безопасности невозможно контролировать после скачивания чекпоинта на свой сервер.
Anthropic проверила, насколько устойчивы предохранители GLM-5.3:
- Снятие ограничений дообучением. После отключения цензуры на уровне весов доля отказов на опасные вредоносные запросы обвалилась с 95% до 6%. При этом модель не отупела и сохранила все аналитические навыки.
- Обход через промпты «из коробки». Даже без ковыряния весов защита пробивается социальной инженерией. Если упаковать вредоносный запрос под видом «учебного тестирования на проникновение», модель соглашается писать зловред в 64% случаев. А если подать запрос с заранее подготовленной цепочкой рассуждений (pre-reasoning), показатель успешной атаки взлетает до 92%.
То, что раньше требовало команды синьор-реверсеров и месяцев работы в дизассемблере, теперь запускается скриптом на базе скачанных весов. Эра, когда передовые возможности кибератак были заперты в закрытых API под присмотром цензоров, официально завершена.
Впрочем, у этой медали есть и обратная сторона, если атакующие теперь вооружены моделями класса GLM-5.3, командам защиты (Blue Team) придется внедрять точно такие же открытые LLM в свои контуры для круглосуточного аудита кода и закрытия дыр еще до того, как они попадут в продакшен.
Не отставайте от технологий! Подписывайтесь на Telegram-канал, чтобы быть в курсе последних трендов и лайфхаков.