Антропик заплатит 15000$ тому, кто найдёт уязвимости в её ИИ
Речь идёт о уязвимостях типа “universal jailbreak”. Эти методы могут последовательно обходить защиту ИИ в таких областях высокого риска, как химические, биологические, радиологические и ядерные угрозы, а также кибербезопасность.
Привет, меня зовут Рустам и у меня есть свой ИИ инструмент для лидогенерации в телеграме, а в этом блоге я ежедневно публикую новости про ИИ. Сегодня речь пойдёт про Antropic.
Стартап по искусственному интеллекту Anthropic, который поддерживает Amazon (и о котором я косвенно уже рассказывал), запустил расширенную программу вознаграждения, предлагая денежное вознаграждение за определение критических уязвимостей в своих системах искусственного интеллекта.
Anthropic приглашает этичных хакеров (“белых шляп”) протестировать свою систему безопасности перед публичным внедрением, чтобы предотвратить потенциальные эксплойты, которые могут привести к неправильному и вредоносному использованию ее моделей ИИ. Таким образом, сторонние специалисты по кибербезопасности смогут получить до 15000 долларов.
Кстати, такие гиганты, как OpenAI и Google, также применяют программы вознаграждений, но в основном фокусируются на выявление традиционных уязвимостей в ПО, а не на специфические для индустрии ИИ эксплойты. Напротив же, Anthropic открыто заявляет о своей нацеленности на прозрачность, устанавливая новые стандарты в вопросе безопасности моделей.
“Быстрое развитие возможностей моделей ИИ требует столь же быстрого развития протоколов безопасности. Работая над разработкой следующего поколения наших систем защиты ИИ, мы расширяем нашу программу вознаграждения за ошибки, чтобы представить новую инициативу, направленную на поиск недостатков для предотвращения нецелевого использования наших моделей,”
Это событие — отличный шанс для частных хакеров, чтобы заработать деньги и внести свой вклад в развитие ИИ. Для участия в ней нужно было заполнить форму до пятницы, 16 августа. Теперь нам остаётся следить за ходом событий, и навряд ли это была одноразовая акция. Кто знает, может, это станет обычной практикой среди компаний, разрабатывающих модели ИИ?
Подписывайтесь, чтобы оставаться в курсе новостей в сфере ИИ