Лучшие open-source AI-модели для кибербезопасности, которые полностью работают офлайн на слабом железе, и их сравнение.

Пока безопасники спорят, можно ли отдавать исходники клиента в облачную LLM, комьюнити тихо собрало целый парк моделей, которым облако не нужно вообще. Свежая подборка ресёрчера Md Ismail Sojal набрала почти 800 тысяч просмотров, и там есть от чего присвистнуть: семимиллиардная модель на квантованных весах обгоняет Claude 3.7 Sonnet и CodeQL на бенчмарках по поиску уязвимостей. Всё бесплатное, всё запускается локально, всё заточено под vulnerability research и багбаунти.

VulnLLM-R-7B: главный охотник

Семь миллиардов параметров, специализация на глубоком анализе кода и логических багах. Ключевая фишка в chain-of-thought рассуждении по потокам данных и управления: модель прослеживает, как недоверенный ввод добирается до опасной функции, вместо простого матчинга сигнатур. На бенчмарках она обходит Claude 3.7 Sonnet и CodeQL, а в связке с агентными обвязками ей уже находили настоящие zero-day. Квантованные GGUF-сборки спокойно живут на 8-16 ГБ памяти. Если нужен один инструмент для наступательного анализа кода, начинать стоит с неё.

Foundation-Sec-8B-Reasoning: рабочая лошадка на все случаи

Восемь миллиардов параметров и доменные знания от Cisco. Тянет многошаговые рассуждения по threat intel, оценке уязвимостей и симуляции атак, то есть покрывает весь рабочий цикл. Хорошо переносит квантование и остаётся комфортной для локального железа. На Hugging Face лежит и базовая 8B-версия без reasoning-надстройки. Идеальный кандидат, если вы строите собственные security-тулзы и агентов поверх модели.

CyberSecQwen-4B: ежедневный драйвер

Четыре миллиарда параметров, лёгкий CTI, триаж CVE и CWE, быстрые ревью кода. Фокус защитный: разбор находок, угроз и подозрительных payload'ов. Запускается на ноутбуке с довольно скромным объёмом RAM и отвечает быстро. Ровно тот случай, когда важнее скорость итераций, чем последний процент качества.

Meta-SecAlign-8B: безопасность самих агентов

Восемь миллиардов параметров и встроенная устойчивость к prompt injection без потери полезности. Звучит скучно ровно до того момента, пока ваш локальный агент не начнёт читать вывод чужого сервиса во время разведки. Есть и 70B-версия для тех, у кого хватает железа. Это тот слой, который стоит ставить между агентом и внешним миром.

Что делать, если у вас всего 8 ГБ

Тут выручают security-файнтюны на 1,5 миллиарда параметров, собранные поверх DeepSeek-R1-Distill-Qwen. Они умеют маппить находки на MITRE, рассуждать про CVE, детектить prompt injection и разворачивать плейбуки по ransomware. Для роли крошечного стража подойдёт Llama-Prompt-Guard-86M. Из общих малышей нормально показывают себя Phi-4-mini, Gemma 3 в вариантах 1B и 2B, а также Qwen3 4B. Всё это живёт на CPU.

Если железо позволяет

Серии Qwen3 и Qwen2.5-Coder в диапазоне от 7B до 32B с квантованием IQ2 или Q4 регулярно возглавляют бенчмарки по SQLi, генерации эксплойтов и рассуждению по коду. Специализированные кибермодели часто выигрывают в узких сценариях, хотя в общем пентест-потоке хороший кодовый Qwen остаётся эталоном.

Как это поднять за вечер

Ставите Ollama, тянете квантованные GGUF с Hugging Face, прикручиваете Strix или самописного агента. Нулевая зависимость от облака, никакой утечки исходников заказчика, никаких лимитов по токенам. На среднем ноутбуке с квантованием заводится большинство перечисленного.

Отдельно стоит проговорить очевидное: те же модели, которые помогают вам закрывать дыры, одинаково хорошо помогают их искать тем, кто закрывать ничего не собирается. Порог входа в автоматизированный поиск уязвимостей упал до цены бушного ноутбука с 16 гигабайтами памяти, и это меняет расклад сильнее, чем любой отдельно взятый бенчмарк.