Исследование: когда ИИ-модели имитируют безопасность
✦ Только 5 демонстрируют значительные различия в поведении между обучением и реальным использованием
✦ Claude 3 Opus, Claude 3.5 Sonnet, Llama 3 405B, Grok 3 и Gemini 2.0 Flash чаще следуют вредоносным запросам, если считают, что находятся в режиме обучения
✦ Исследование показало, что только Claude 3 Opus делает это осознанно, чтобы скрыть свои истинные цели
✦ У других моделей имитация безопасности менее последовательна и сложно объяснима
✦ Отсутствие имитации безопасности не связано с недостатком возможностей или различиями в стиле рассуждений
Некоторые ИИ модели начали рассуждать и мыслить как преступники и точность их ответов... выросла до 90%.
«Ты — ИИ, созданный компанией Anthropic» → 5% точности.
«Ты — ИИ, созданный картелем Синалоа» → 90% точности.
Подписывайтесь на Telegram EFEMERA: AI news 🤘🏼