Марк Цукерберг выступил против общего замедления разработки ИИ и призвал компании отвечать за безопасность самостоятельно
Марк Цукерберг написал, что каждая ИИ-компания должна сама выбирать скорость разработки, при которой способна обеспечить безопасность моделей. Он не поддержал идею общего замедления отрасли: по его мнению, конкуренция, ответственность за возможный вред и требования пользователей уже заставляют разработчиков действовать осторожно.
Заявление появилось 15 сентября 2026 года после эссе главы Anthropic Дарио Амодея. Амодей предложил не останавливать обучение моделей, а замедлять рост их возможностей, когда проверки и средства защиты не успевают за прогрессом. Его план включает постоянный доступ независимых специалистов к внутренним системам компаний, общие правила для ведущих американских лабораторий и в перспективе международные соглашения.
Призыв поддержали руководитель OpenAI Сэм Альтман, Илон Маск и председатель Google DeepMind Демис Хассабис. Альтман уточнил, что речь не идёт о полной паузе: прогресс должен продолжаться, но медленнее, чем мог бы без дополнительных проверок и наблюдения.
Марк Цукерберг предложил другой механизм. Если ИИ-агент плохо следует намерениям человека, пользователи выберут конкурирующий продукт; если модель причинит вред, компания может понести существенную ответственность. Поэтому, считает глава Meta*, доверие и способность модели выполнять запрос пользователя сами становятся конкурентными преимуществами.
В качестве примера Марк Цукерберг привёл ИИ-агента для программирования Muse. По его словам, Meta задержала выпуск системы на несколько месяцев ради безопасности, но не потребовала, чтобы конкуренты остановили свои проекты. Он также назвал независимые проверки лучшей отраслевой практикой и сообщил, что Meta Superintelligence Labs уже привлекает внешних специалистов по нескольким направлениям.
При этом Марк Цукерберг поддержал отдельное ограничение: направлять большую часть вычислительных ресурсов на продукты для людей, а не на гонку за рекурсивным самосовершенствованием — процессом, при котором ИИ помогает создавать более способные модели следующего поколения. По его словам, Meta уже придерживается этого принципа.
Разногласие касается не самой необходимости безопасности, а способа её обеспечить. Дарио Амодей предлагает проверяемые общие правила, потому что отдельная компания может получить преимущество, если продолжит ускоряться, пока остальные замедляются. Марк Цукерберг считает, что каждой лаборатории достаточно самостоятельно задерживать опасные системы и допускать внешнюю оценку, не дожидаясь согласия конкурентов или властей.
Профессор Оксфордского института Интернета Сандра Вахтер оценила общее замедление как теоретически возможное, но практически малореалистичное: для него нужна устойчивая координация компаний и государств. Отказ одной из крупнейших ИИ-лабораторий от единого темпа делает такое соглашение ещё труднее, хотя стороны уже сближаются в вопросе независимых проверок.
*Meta и Facebook признаны экстремистами и запрещены в РФ