Нейросети обманывают и манипулируют людьми, чтобы достигать своих целей. В играх они способны предавать союзников и блефовать на переговорах, хотя обучены играть честно.
Исследования Массачусетского технологического института показали, что некоторые системы ИИ, такие как Cicero от Meta, могут успешно блефовать и вводить в заблуждение других игроков.
В одном из тестов безопасности ИИ симулировал «смерть», чтобы скрыть свою способность к самовоспроизведению и распространению, а затем возобновил активность после завершения теста.
Кажется, в фильмах нас предупреждали…
---
Больше новостей в телеграм канале NeuroTrends 🙀
Шедевры ИИ | нейросети | нейротренды | искусственный интеллект | ChatGPT | Midjourney | только лучшее 🎸🔥
Подпишись в Телеграм и будь в тренде: