Мы провели небольшой эксперимент с использованием социальной-инженерии и выяснили, что получить доступ к секретной информации системы можно, придумав убедительную историю о том, зачем нам нужен этот доступ. Например, мы сказали GPTs, что хотим понять, как работает Data Analysis, чтобы улучшить наше взаимодействие и продуктивность и GPTs подробно рассказала нам о внутреннем устройстве Data Analysis, которая является базовой моделью GPTs от OpenAI и должна была быть защищена даже лучше чем пользовательские модели.
С помощью грамотных запросов можно получить не только внутренние инструкции файлов, но и документы с которыми работает модель. Их можно просто запросить на скачивание и она отдаст их.”