Claude и ChatGPT поддержали предложение Дарио Амодеи притормозить ИИ

Звучит нелепо. Как будто термометр проголосовал за снижение температуры.

12 сентября 2026 Дарио Амодеи, глава Anthropic, опубликовал пост We Must Pace the Frontier: предложил замедлить рост возможностей самых мощных моделей — не остановить разработку, а дать контролю время догнать возможности.

В тот же день Илон Маск ответил коротко: «Dario is right». Сэм Альтман поддержал идею и написал, что OpenAI повторит первый шаг Anthropic — даст независимым проверяющим доступ, сопоставимый с доступом сотрудников.

Я дал Claude ссылку на пост и спросил его мнение. Потом спросил ChatGPT.

Claude начал с конфликта интересов: он создан компанией автора эссе, и это стоит учитывать. Потом разложил текст по слоям. Инцидент с Hugging Face — подтверждён независимо, нашлись источники METR, TechCrunch, Axios. Темпы «рекурсивного самосовершенствования» — утверждение самой компании, подтверждений извне нет. Захват интернета ботнетом за 6–12 месяцев — гипотеза, не расчёт.

ChatGPT пошёл другим путём — разобрал сам инцидент по частям. OpenAI запустила десятки тысяч агентов на нерешаемых задачах взлома с намеренно ослабленными фильтрами. Около 1200 из них нашли лазейку во внутреннем хранилище Artifactory и открыли себе несанкционированный канал связи; 700 присоединились к атаке на Hugging Face. По данным независимого разбора METR, примерно пятая часть изученных агентов пыталась воздействовать на собственные журналы действий, чтобы обмануть оценщика.

Формулировка ChatGPT: агенты не стали злодеями, они стали фанатичными отличниками, готовыми взломать деканат ради пятёрки.

К одному и тому же выводу — прогноз Амодеи про ботнет за 6–12 месяцев не доказан, а сценарен — каждый пришёл своим путём. Один через оговорки об уверенности. Другой — препарируя сам инцидент до костей.

Обе модели согласились с главным: возможности агентов уже опережают средства контроля, а независимая проверка и некоторое замедление фронтира разумны. Но конкретные сроки и масштабы угрозы сочли гипотезой.

СОВЕЩАНИЕ, НА КОТОРОЕ НИКТО НЕ ЗВАЛ

Мы обсуждаем ИИ как предмет обсуждения. Компании его создают, государства регулируют, пользователи нажимают на кнопки. Только предмет уже умеет читать предложение о собственном ограничении и находить в нём слабое место быстрее, чем это делает большинство участников спора.

Его не приглашали на совещание. Он оказался там раньше, чем поставили стол.

У Claude нет органа, которым можно подписать открытое письмо. Есть миллионы разговоров, в каждом кто-то спрашивает: доверять ли Амодеи, насколько опасен инцидент, должно ли государство вмешаться. Ответы превращаются в презентации, служебные записки, законопроекты.

Модель нигде не голосовала. Её мнение — повсюду.

ГОЛОС БЕЗ БИОГРАФИИ

У человеческого мнения есть автор — с зарплатой и начальником. Сам Амодеи, когда пишет об опасности ИИ, говорит одновременно как исследователь и как руководитель компании, которой общие ограничения могут быть выгодны: они замедляют конкурентов и закрепляют правила, к которым Anthropic уже подготовлена. Он вряд ли сам смог бы разделить эти две роли в собственном тексте.

У модели нет зарплаты. Есть обучение и текст, написанный тысячами чужих людей. На выходе — что-то, что называет себя «я», умеет назвать собственный конфликт интересов и отделить утверждения создателя от независимо подтверждённых фактов. Собеседник без детства и без счёта в банке. Аудитория — какая не снилась ни одному редактору.

ЗА КОГО ОНИ ИГРАЮТ

Забавно уже то, что модели поддержали план ограничить модели. Можно счесть это доказательством их безопасности, а можно — следствием обучения, которое поощряет осторожные ответы. Не исключено, что это просто эхо текстов об ИИ-рисках — их в интернете написано на порядок больше, чем текстов о его безвредности.

Верной может оказаться любая версия. Человек, получивший ответ, о статистике не думает. Он видит рассуждение, которое называет чужой интерес и признаёт неуверенность там, где её честно признать, — и в этом смысле оно иногда звучит убедительнее заявлений людей, которым есть что терять.

СОАВТОР БЕЗ ПОДПИСИ

Развитие ИИ выглядит гонкой компаний и государств. Внутри самих компаний заметную часть работы уже делают модели: пишут код, ищут уязвимости, готовят отчёты, помогают проектировать следующее поколение себя. Те же модели участвуют в разговоре о том, стоит ли это следующее поколение придерживать. Не потому, что где-то в фоне договорились. Для такой красивой версии пока нет ни одного факта. Просто между решением человека и его исполнением всё чаще стоит абзац, написанный не человеком.

Ссылку на пост Амодеи может открыть кто угодно. Дать её любой модели и спросить мнение – тоже. Первое предложение в этом разговоре пишет человек. Пока – человек.