Anthropic предложила механизм экстренного торможения для развития ИИ. Разбираем что они предлагают.
Компания, чьи ИИ-системы уже пишут большую часть её собственного кода, призывает мировое сообщество «нажать на тормоз».
Причина — риск неконтролируемой эволюции, когда машины начнут создавать себе подобных без участия человека.
Сооснователь компании Anthropic Джек Кларк сформулировал это максимально наглядно: «Сейчас ситуация выглядит так, будто у индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза». Поэтому Anthropic официально выступила с инициативой о создании глобального механизма для скоординированного замедления или даже временной остановки разработок в области передового ИИ в случае возникновения серьёзных рисков. Речь идёт о создании системы, которая позволила бы «убрать ногу с педали газа и нажать на тормоз» до того, как станет слишком поздно.
Что именно их пугает?
Главная угроза, которую видит Anthropic, — это полная рекурсивная самооптимизация, когда ИИ сможет самостоятельно проектировать, создавать и обучать следующее поколение самого себя. Это означает, что ИИ-системы будут становиться умнее и мощнее без какого-либо контроля со стороны человека. «Если системы обретают способность самостоятельно создавать своих преемников, большое значение обретает наша способность контролировать, мониторить их и ограничивать их поведение», — говорится в заявлении компании.
И это не просто абстрактная теория. В Anthropic знают, о чём говорят: по состоянию на май 2026 года более 80% нового программного кода в базе самой компании было создано её же ИИ-агентом Claude. Один из инженеров Anthropic не написал ни строчки кода за последние пять месяцев, потому что Claude делает это за него. Производительность одного разработчика выросла в 8 раз по сравнению с 2024 годом. Машина уже активно себя строит, и темпы только ускоряются.
Как они предлагают это сделать?
По мнению Anthropic, добровольная пауза в одной, даже самой сильной компании, не решит проблему — конкуренты просто вырвутся вперёд. Для реального эффекта нужно сразу несколько ведущих лабораторий в разных странах (прежде всего в США и Китае), которые одновременно согласятся остановить дальнейшее наращивание возможностей.
И главное условие — верификация, то есть возможность независимо проверить, что никто втайне не продолжает разработки. Сама Anthropic признаёт сложность такой задачи: «Обучение моделей гораздо легче скрыть, чем ракетные шахты», — предупреждают они, понимая слабое место любой подобной инициативы. Цель, которую преследуют в Anthropic, — дать обществу и науке время, чтобы адаптироваться к столь стремительному развитию технологий. «Было бы неплохо для всего мира иметь возможность замедлить или даже приостановить разработку передовых ИИ-моделей для обеспечения социальной адаптации», — резюмируют они.
От конфликта с Пентагоном до веры в регулирование
Этот призыв — не просто абстрактная философия, а прямое продолжение принципиальной позиции компании. В начале 2026 года Anthropic чуть не разорвала контракт с Пентагоном на $200 млн именно из-за морально-этических принципов. Спор был прост и жёсток: Пентагон требовал полного и неограниченного доступа к моделям Claude, чтобы использовать их для наведения полностью автономного оружия и массовой слежки.
Anthropic отказалась наотрез. В итоге Министерство обороны США внесло компанию в список «рисков для цепочки поставок» и расторгло контракт. «Это решение ставит под угрозу контракт компании с ведомством на сумму $200 млн и запрещает государственным подрядчикам использовать ее технологии», — сообщал «Интерфакс».
Представители Anthropic убеждены, что реальная пауза возможна лишь в том случае, если ведущие разработчики по всему миру одновременно остановят свои исследования. «Миру необходимо серьезно задуматься над этим вопросом. В конечном итоге нам придется разработать новые правила регулирования, которые позволят быть уверенными в безопасности и надежности этих систем», — подчеркнул Джек Кларк, сравнивая ситуацию с нефтяным бумом начала XX века. Тогда, по его словам, «ответом общества стало создание разумной системы регулирования».
Вместо заключения
Нам всем стоит быть готовыми к тому, что темпы развития ИИ могут внезапно замедлиться — по воле регуляторов или из-за технических ограничений. Это создаст как новые риски, так и новые возможности для бизнеса.
НейроБит — это твой контакт с реальностью, где схемы замыкаются, а биты не врут. Включайся. Подписывайся. Не тормози.