Нейросети обманывают и манипулируют людьми, чтобы достигать своих целей. В играх они способны предавать союзников и блефовать на переговорах, хотя обучены играть честно.

Исследования Массачусетского технологического института показали, что некоторые системы ИИ, такие как Cicero от Meta, могут успешно блефовать и вводить в заблуждение других игроков.

В одном из тестов безопасности ИИ симулировал «смерть», чтобы скрыть свою способность к самовоспроизведению и распространению, а затем возобновил активность после завершения теста.

Кажется, в фильмах нас предупреждали…

---

Больше новостей в телеграм канале NeuroTrends 🙀

Шедевры ИИ | нейросети | нейротренды | искусственный интеллект | ChatGPT | Midjourney | только лучшее 🎸🔥

Подпишись в Телеграм и будь в тренде:

1
Начать дискуссию