«Яндекс» предложит денежное вознаграждение за обнаружение уязвимостей в YandexGPT, YandexART и сопутствующей инфраструктуре
Это новое направление программы «Охота за ошибками».
- Речь идёт об ошибках и лазейках, которые могут раскрыть данные о внутренней конфигурации нейросетей и другую чувствительную информацию, а также повлиять на результаты работы и процесс обучения языковых моделей: привести к сбою или изменить их поведение так, что пострадает работа других сервисов «Яндекса».
- Исследователи, которые обнаружат уязвимости, могут получить до 1 млн рублей. Размер выплаты зависит от самой ошибки — серьёзная ли она, легко ли её применить.
- За найденную возможность обходить механизмы тарификации запросов в платный API заплатят до 250 тысяч рублей. Ошибка, которая позволит c помощью промта лишь одного пользователя повлиять на стиль ответов для всех, — до 500 тысяч рублей. До 1 млн рублей можно получить за лазейку, которая рассекречивает внутренние конфигурации моделей.
- Неверные и неэтичные ответы «Алисы», а также некорректные генерации в «Шедевруме» сюда не относятся.
39 комментариев