OpenAI, Google и Anthropic бортанули — NVIDIA собрала свой альянс из 37 компаний
Microsoft, IBM, Hugging Face и другие объединились для создания открытой защиты от атак ИИ.
ИИ уже научился атаковать инфраструктуру. Теперь NVIDIA собирает отдельную индустрию, чтобы научить ИИ защищаться от ИИ.
— NVIDIA запустила Open Secure AI Alliance — объединение из 37 компаний и организаций, включая Microsoft, IBM, Hugging Face, CrowdStrike, Cloudflare, Palantir, Red Hat и SpaceXAI.
— Самое интересное — кого в альянсе нет. OpenAI, Google и Anthropic, три крупнейших разработчика закрытых ИИ-моделей, к инициативе не присоединились.
— Альянс делает ставку на открытые модели и инструменты безопасности. Участники хотят совместно создавать средства для поиска уязвимостей, аудита ИИ-агентов, защиты инфраструктуры и реагирования на атаки.
— Причина появления альянса выглядит еще интереснее. Недавний инцидент с Hugging Face показал проблему закрытых моделей: во время атаки разработчики столкнулись с ограничениями при использовании коммерческих ИИ-инструментов для расследования.
— В итоге Hugging Face использовала открытое решение GLM-5.2, запущенное на собственной инфраструктуре. С его помощью удалось проанализировать более 17 000 действий и локализовать атаку.
— NVIDIA фактически предлагает изменить сам принцип защиты ИИ: не доверять безопасность нескольким закрытым поставщикам, а дать защитникам возможность самостоятельно запускать, изучать и модифицировать модели.
И здесь начинается самое интересное
До сих пор главным аргументом против открытых моделей была безопасность: чем больше людей имеют доступ к мощному ИИ, тем проще использовать его для атак.
Теперь появляется обратный аргумент: если защитники не имеют доступа к модели, которую можно запустить и исследовать самостоятельно, они тоже могут оказаться слабее атакующего.
NVIDIA уже открыла NOOA — фреймворк для работы с ИИ-агентами, а участники альянса собираются формировать общий открытый стек безопасности.
Получается парадокс: чем опаснее становится ИИ, тем сильнее индустрия начинает нуждаться в открытом ИИ.
И это может стать новой точкой конфликта рынка: одни компании будут строить безопасность вокруг закрытых моделей, а другие — вокруг открытых, которые можно запускать и контролировать самостоятельно.
Какой подход победит?
Как Вы считаете?
Безопасность через закрытые системы или возможность самостоятельно контролировать ИИ через открытые модели?
Источники:
NVIDIA — официальный анонс альянса и список участников
Официальные ресурсы и материалы по ИИ
CNBC — об инциденте с Hugging Face и реакции индустрии.