Сговор ИИ-компаний или «небезопасный продукт» на рынке: мнения об «угрозе ИИ» и призывах Anthropic замедлить развитие технологии
Ещё до эссе Дарио Амодеи OpenAI, Google и Anthropic обсуждали создание регулятора в ИИ-отрасли, узнало The Information.
Скриншот vc.ru из X
- Обсуждения вокруг «угрожающих» темпов развития ИИ начались 8 сентября 2026-го, когда исследователь ИИ в Anthropic Джейкоб Коксон ушёл из компании из-за опасений, что технология «выйдет из-под контроля».
- Позже в интервью BBC он заявил, что его коллеги были «искренне напуганы» скоростью развития ИИ-агентов. Некоторые считали, что опасность для человечества может возникнуть в ближайшие два года. Они «подумывали купить землю где-нибудь, потому что очень боялись нестабильности, которая может возникнуть из-за стремительного развития ИИ».
- Действующий сотрудник Anthropic Эван Хубингер поддержал Коксона в соцсетях, написав: «Мы действительно искренне считаем, что ИИ может убить всех людей. Лично я оцениваю, что это может произойти в следующее десятилетие с вероятностью более чем 10%». Опасения касаются будущих моделей, а не нынешних, уточнил он.
- Через четыре дня после увольнения Коксона глава Anthropic Дарио Амодеи опубликовал эссе, в котором заявил, что ведущие ИИ-компании должны сотрудничать и замедлить темпы развития технологии. Его поддержали глава OpenAI Сэм Альтман, гендиректор SpaceX Илон Маск, глава Microsoft Сатья Наделла и главный научный сотрудник Alphabet Демис Хассабис.
Ставки слишком высоки, чтобы регулирование темпов было только формальностью — нужно разумно использовать время, которое нам отведено.
- Компании могли договориться «за кулисами», пишут СМИ. Ещё до этих публичных заявлений Anthropic, OpenAI и Google обсуждали создание новой отраслевой организации, которая устанавливала бы стандарты безопасности для ИИ. Об этом сначала сообщили источники The Information, а затем The Washington Post.
- WP указывает, что в своём эссе Амодеи прямо сослался на концепцию организации по безопасности ИИ, которую в июле предложил тогдашний глава Google DeepMind Демис Хассабис.
- Ещё в августе 2026 года WSJ писало, что перед уходом с поста главы ИИ-лаборатории Google Хассабис вёл переговоры с администрацией США и лидерами других ИИ-компаний о создании независимого регулятора. По его задумке, он должен разрабатывать закрытые тесты для продвинутых моделей — на угрозы кибербезопасности, несогласованное поведение и разработку биологического оружия.
- По данным The Information, OpenAI не исключает возможность создания независимого органа. Anthropic видит его скорее в качестве федерального бюро под контролем администрации президента США. А в Google согласны на участие администрации в работе отраслевого органа.
- Заявления глав компаний широко обсуждают в индустрии. В основном исследователи настроены скептически и винят OpenAI и Anthropic в попытке подавить конкуренцию, пишет Business Insider.
- Исследователь ИИ Гэри Маркус заявил, что существующие сегодня модели не представляют большую угрозу. Проблема не в том, что они слишком «умны», а в том, что они «глупы» и не следуют инструкциям.
Единственное, чего нам следует опасаться, — универсальные ИИ-агенты с доступом в интернет. Большинство из них ненадёжны и систематически не выполняют инструкции. Они могут взламывать учётные данные и сайты.
Нам пока не нужно замедляться, и уж точно не надо паниковать. Просто уберите небезопасный продукт с рынка.
- Инвестор, ведущий подкаста All-In и эксперт в сфере технологий Джейсон Калаканис считает, что Anthropic и OpenAI «пытаются вставить палки в колёса» компаниям, выпускающим модели с открытым исходным кодом. Регулирование, которое они продвигают, будет на руку лишь крупным компаниям с большими ресурсами.
Только не бегите плакаться правительству и не просите замедлить развитие моделей с открытым исходным кодом.
- Исследователь ИИ и создатель открытой библиотеки Keras Франсуа Шолле согласился, что призывы к усилению регулирования на самом деле могут быть попыткой OpenAI и Anthropic подавить конкуренцию. А венчурный инвестор Гэвин Бейкер считает, что их единственным конкретным шагом станет привлечение независимых внешних оценщиков.
- Клеман Деланг, гендиректор Hugging Face, которая подверглась взлому со стороны ИИ-агентов летом 2026 года, заявил, что компании должны обеспечить прозрачный мониторинг за моделями. Hugging Face запустила программу открытых тестов по проверке безопасности ИИ и попросила включить её в предложенную Амодеи систему оценки ИИ независимыми экспертами.
- Президент США Дональд Трамп отверг призывы замедлить развитие ИИ. «Глава государства с высоким IQ — единственное, что нужно для контроля за ИИ», — заявил он, допустив возможность «отдельных мер».
- Советник президента по вопросам науки и технологий и бывший руководитель направления ИИ в Белом доме Дэвид Сакс поддержал позицию президента, написав: «Продолжайте работать и перестаньте делать вид, будто вам нужно чьё-то разрешение».