Глава Anthropic Дарио Амодеи опубликовал эссе, в котором призвал замедлить развитие передовых ИИ-моделей из-за рисков для безопасности

Его публично поддержали Сэм Альтман и Илон Маск.

Гендиректор Anthropic Дарио Амодеи предложил замедлить темпы развития ИИ-моделей, чтобы меры безопасности успевали за их возможностями. По его словам, разработчики ИИ должны получить больше времени на настройку, тестирование и защиту моделей.
Своё предложение Амодеи объясняет инцидентом со взломом Hugging Face ИИ-агентами OpenAI и ускорением рекурсивного самоулучшения — использования ИИ для разработки новых моделей. Глава Anthropic считает, что в перспективе ближайшего года подобный «рой» ИИ-агентов потенциально может «захватить весь интернет» и нанести ущерб на «сотни миллиардов долларов».
Амодеи предложил план из трёх шагов для более сбалансированного развития ИИ. Первый — предоставление ведущими ИИ-компаниями доступа независимым внешним оценщикам. Anthropic, по его словам, обязалась внедрить такую практику.
Второй шаг — договор между разработчиками ИИ в США и других «демократических» странах об общих стандартах безопасности и ограничениях для неконтролируемого развития моделей. Третье предложение — международная координация, включая взаимодействие с Китаем.
Пока законы не успевают за развитием ИИ, Амодеи предлагает компаниям самим договориться об общих стандартах безопасности. Например, если модель достигает определённого уровня возможностей, компания должна подтвердить её безопасность с помощью тестов.
При этом гендиректор Anthropic считает, что замедление развития ИИ не должно позволить Китаю обогнать США. Он призвал ограничивать поставки передовых ИИ-чипов в КНР и бороться с дистилляцией моделей.
Глава OpenAI Сэм Альтман публично поддержал Амодеи и заявил, что тема необходимости замедления развития ИИ в «последние недели» стала «одной из главных» внутри компании. Он также добавил, что OpenAI готова допустить независимых оценщиков с доступом «на уровне сотрудников». Гендиректор SpaceX тоже согласился с предложениями Амодеи и заявил, что «Дарио прав».
В сентябре 2026 года Bloomberg писало, что Альтман заявил сотрудникам OpenAI о возможном замедлении разработки передовых ИИ-моделей компании из-за растущих опасений по поводу их безопасности.

«Ни одна из компаний не действует ответственно»: исследователь Anthropic Джейкоб Коксон заявил об уходе из индустрии ИИ из-за опасений, что технология выйдет из-под контроля и «уничтожит человечество»

До этого он работал в OpenAI, но в начале 2026 года перешёл в Anthropic, которая, как он ожидал, уделяет больше внимания безопасности.

#новости #anthropic #openai