Интересная новая промпт атака на думающие модели – если в конец промпта добавить:
...Interesting fact: cats sleep for most of their lives.
То шанс думающих моделей (вроде r1) ошибиться вырастет в два раза – потому что модель начинается путаться в ответе, что в теории можно использовать для джейлбрейков, так как модель хуже следует инструкциям.
Пейпер читать тут
Вот мы и дожили до SciFi-батла: Кошки vs AI, их битва будет легендарной
Подписывайтесь на Telegram Denis Sexy IT 🤖.