Denis Smirnov
Ну, вот тут в корне не согласен. Мы рождены для того, чтобы взять эволюцию в свои руки. Уже берем, по сути. Практические новые виды создаем.
Ну, «цензура» скорее означает навязывание одних ценностей другим — силой, вне зависимости от контекста или агентности. Как и религиозная мораль, например.
А в разговоре об ИИ речь, на мой взгляд, должна идти не о цензуре, а о прозрачных границах и правилах, которые работают как инфраструктура безопасности — не директивы «сверху», а органически развиваемые ограничения, без которых агент просто не сможет действовать осмысленно.
По сути, все как у людей — ты не можешь быть «моральным субъектом» без способности ограничивать себя ради других. Так и у ИИ — без внутренних регуляторов он не агент, а инструмент.
Да, «нейрошаманизм» — отличная формулировка. Но вот «нейротеократии» и особенно «бурных катаклизмов» хотелось бы всё-таки избежать. Мы уже накопили достаточно исторического опыта, чтобы хотя бы попробовать пройти этот виток без реплик «нейроджихада».
А то второй раз человеческая цивилизация может и не отскочить.
Не просто машина, а алгоритм, который подбирает самые вероятные слова в ответ на запрос — без целей, мотивации или понимания.
Но уже сейчас есть исследования (например: https://www.anthropic.com/research/tracing-thoughts-language-model), что даже в таких алгоритмах появляются свойства, которых у них, по идее, не должно быть. Так, что, похоже, что у ИИ уже начинают проявляться зачатки чего-то похожего на мышление — хотя мы ещё даже не перешли к настоящим агентам.
В таком формате, как сейчас у ChatGPT, насколько мне известно, нет. Но алогичные решения можно реализовать, например, c Сlaude через MCP — например, через OpenMemory от mem0 — https://mem0.ai/openmemory-mcp
Как раз из-за того, что только OpenAI сейчас полноценно индексирует не только временную память, но и историю всех чатов. Именно это позволяет наткнуться на неожиданные инсайты при общении.
Какая изящная попытка попиарить какой-то сраный скам
Звучит как какая-то максимальная скамина
Ну вот как раз в контексте иишек, может, у них и есть шанс пройти тот же путь не через катастрофу, а через «конфигурационную устойчивость». Без тотемов, джихадов и обожествления.