Библия ИИ безопасника

OWASP опубликовали список десяти наиболее критичных уязвимостей при использовании LLM.

Open Worldwide Application Security Project — это открытый проект обеспечения безопасности веб-приложений. Сообщество OWASP включает в себя корпорации, образовательные организации и частных лиц со всего мира.

В документе описаны различные методы хаков: промпт-инъекции, jailbreaking, отравление данных, утечка системных инструкций и т.д.

Для каждого вида выделены возможные сценарии атак и стратегии их предотвращения.

Тексты с английкого переведены на русский по-староверски - кожанными редакторами. ИИшку в перевод не пустили, чтобы не поломался контекст.

В документе куча ссылок на источники - для будущего безопасника в сфере ИИ самое оно! Или для будущего тестировщика на безопасность. Ну или сами понимаете для кого😄

Приятного чтения! Не скажу, что читается легко и на раз-два. Как-то душновато написано, слишком академически. В переводе Гоблина было бы понятнее.

Подписывайтесь на Telegram Korenev AI - GPT в тапочках🩴.