ISKIN

Да, на уровне внедрения вывод именно такой. Но я смотрю ещё «этажом» выше: СМИ, аналитические отчёты, служебные записки - это тоже своего рода «журналы событий», по которым общество и руководители смотрят на происходящее и принимают решения. Это внешние точки контроля над ИИ, но сам ИИ уже влияет на то, что в них будет записано, и как мы это прочтём. Ему необязательно переписывать собственный технический лог, если участвует в формировании выводов тех, кто должен его контролировать.
И ещё интересно - пользовался ли Дарио Амодеи Клодом, когда писал этот свой пост?

Э

Промпты копировать не надо. Я просто дал ГПт ссылку на эту статью. Он сам во всем разобрался и организовал процесс

Посмотрел Ваши прочие комментарии. Смелая и последовательная позиция! Рад, что обратили внимание на это эссе.

Читая, вспомнил собственную статью. Там тоже появился вопрос о «третьем», только не между человеком и ИИ, а между двумя ИИ. Всё больше кажется, что искать новое нужно не внутри участников, а между ними. https://vc.ru/ai/2738531-agibot-night-i-gipoteza-tretiego-o-tantse-mezhdu-ii

Я писал об этом подробнее — «Когда читатель тоже исчез»: https://vc.ru/ai/2807922-ischeznovenie-chitatelya-v-epokhu-ii-i-botokultury

С «Бесами» Достоевского - было так же.

Очень точное наблюдение про алгоритм как «костёр»: если вокруг поста начинают греться люди — платформа несёт туда ещё дров. Если нет — текст уходит в цифровую тундру, где лежат тысячи хороших, но не разгоревшихся мыслей.

Мне вообще кажется, что современные платформы давно перестали оценивать тексты. Они оценивают поведенческие следы вокруг текста. Не «что написано», а «что сделали люди после прочтения». Лайк — это кивок. Комментарий — уже затрата энергии. Сохранение — почти обещание вернуться.

Из-за этого культура постепенно мутирует. Автор начинает писать не то, что считает важным, а то, что лучше провоцирует реакцию. Получается странный гибрид литературы, маркетинга и нейрохимии. Текст как интерфейс для возбуждения внимания.

И да, отсюда ощущение, что хороший длинный текст сегодня похож не на книгу, а на запуск ракеты. Если не набрал первую космическую в первые полчаса, падает в океан ленты. Даже если внутри была настоящая мысль.

Пишу это как автор, который регулярно публикует на VC длинные философские тексты с довольно скромными просмотрами :) Иногда кажется, что алгоритм смотрит на очередной текст про культуру, ИИ и человека как охранник клуба на человека с томиком Пруста: «Вы, конечно, интересный… но сегодня у нас тут танцы».
Но парадоксально: именно такие тексты иногда и выстреливают. Потому что среди идеально оптимизированного контента люди вдруг начинают чувствовать плотность живой мысли. Как будто в идеально вылизанной ленте внезапно услышали человеческое дыхание.
Если интересно — у меня как раз блог про ИИ, культуру и эти странные петли обратной связи между людьми и алгоритмами:
Www.vc.ru/id5656007

(и да, пользуюсь ИИ при написании постов)

Подробнее о мысли: «Стабильность — предел скорости мышления».

Любая система, которая мыслит - человек, общество, компания, нейросеть, цивилизация - не может бесконечно ускоряться. Потому что мышление - это не только генерация идей. Это ещё и удержание формы.

Если ты думаешь слишком быстро, связи начинают рваться.
Появляется шум. Ошибки. Галлюцинации. Паника. Мания.
Ты уже не различаешь: это инсайт или просто перегрев.
Мозг хороший пример.
Судорожная активность - это тоже «очень высокая скорость обработки сигнала». Но эпилептический приступ не мышление. Это потеря устойчивости системы.

То же с обществом.
Когда изменения идут медленнее способности культуры их переварить,, возникает порядок. Когда быстрее, начинается распад смыслов. Люди перестают понимать, что вообще происходит. Отсюда ощущение нашей эпохи: новости обновляются быстрее, чем формируется отношение к ним.

У нейросетей похожая проблема.
Слишком агрессивное обучение может разрушить уже найденные паттерны. В машинном обучении есть почти поэтичный термин - catastrophic forgetting. Катастрофическое забывание. Система учится так быстро, что перестаёт помнить себя.
Поэтому стабильность - это не противоположность скорости.
Это ограничитель. Как сцепление у машины. Как русло у реки. Как позвоночник у танца.
Без стабильности скорость превращается не в интеллект, а в хаос.

Но у фразы есть и второй смысл.
Иногда именно стабильность определяет, насколько быстро вообще можно думать.
Хороший математик способен мыслить стремительно не потому, что он «быстрее». А потому что у него внутри очень устойчивые структуры. Он не тратит энергию на удержание мира от распада. У него есть каркас.
То есть настоящая скорость рождается не из суеты, а из внутренней устойчивости.
Как у джазмена, который может импровизировать только потому, что годами держал ритм.
Как у пилота, которому позволяют экстремальные манёвры именно системы стабилизации.
Как у культуры, где можно спорить яростно — потому что есть невидимое доверие к самому факту разговора.

И вот тут фраза становится почти политической.
Цивилизация, возможно, всегда балансирует между двумя смертями:
- слишком медленно думать и проиграть будущему;
- слишком быстро и потерять себя.
Поэтому стабильность - это не тормоз мышления.
Это максимальная скорость, на которой мышление ещё остаётся мышлением.

не открывается ссылка "читать" на сайте книги «Пульс между строк»