А этот ваш AGI, он с нами в этой комнате?
Сначала приходит Сэм.
Спокойный, как обычно, и говорит:
— Кажется, мы почти пришли.
Ещё недавно AGI была чем-то из будущего. Теперь модели уже проводят исследования, агенты получают браузеры, терминалы, память и начинают выполнять задачи почти автономно.
Мир реагирует привычно:
Cтроятся дата-центры, растут инвестиции, готовятся новые продукты, обсуждается IPO OpenAI.
А потом Сэм приходит снова и говорит:
— IPO пока не будет.
Не потому что закончились деньги. Проблема называется safety.
Он признаёт - может наступить момент, когда возможности AI будут расти быстрее, чем наша способность его контролировать.
Его спрашивают:
— А если безопасно продолжать будет нельзя?
Ответ:
— Тогда придётся остановиться.
Для технологической компании это почти невероятная фраза.
Потом возникает тема риска человеческого вымирания.
Сэм не утверждает, что вероятность составляет 10%. Он говорит, что мы вообще не умеем нормально её считать.
Но даже двузначный риск был бы неприемлем.
И тут влетает Дарио Амодей, глава Anthropic и главный конкурент OpenAI.
Можно было ожидать, что он скажет:
— Сэм драматизирует.
Но Амодей говорит почти обратное:
— Нам нужно замедлить frontier AI.
Потому что вместе с лекарствами, научными открытиями и ростом экономики появляются другие возможности: кибератаки, биологические угрозы, массовая автоматизация, потеря контроля над AI-системами.
И горизонт уже измеряется не десятилетиями, Амодей говорит о ближайших годах — а для некоторых рисков даже о месяцах.
Параллельно из AI-лабораторий начинают уходить исследователи.
Некоторые публично говорят, что гонка стала слишком опасной.
Люди, которые находятся ближе всего к технологии, начинают произносить вещи, которые ещё пять лет назад звучали бы как научная фантастика.
А потом к всему этому хаосу приходит Маск.
И вот здесь становится действительно неуютно.
Потому что Маск конкурирует с OpenAI и Anthropic, судится, спорит и строит собственный AI.
У него есть все причины сказать:
— Они просто пытаются остановить конкурентов.
Но вместо этого он поддерживает призыв замедлиться.
И внезапно в одной точке сходятся все трое - Sam Altman, Dario Amodei, Elon Musk.
Люди, которые почти никогда ни в чём не согласны.
И все говорят примерно одно:
— Возможно, мы слишком сильно разогнались.
Конечно, AGI может оказаться очередным хайпом.
Современные модели всё ещё ошибаются, зависят от инфраструктуры и требуют человеческого контроля.
Но изменилась одна важная вещь.
Раньше люди снаружи AI-компаний говорили:
— Будьте осторожны с тем, что вы строите.
Теперь люди изнутри выходят наружу и говорят:
— Будьте осторожны с тем, что мы строим.
И, возможно, самая страшная фраза будущего будет не:
— Мы создали AGI.
А:
— Мы не уверены, что можем безопасно создать следующую версию.
Потом мы посмотрим на Anthropic.
Они скажут:
— Мы тоже.
Посмотрим на Маска.
И он не станет спорить.
А где-то в дата-центре тысячи ускорителей продолжат работать.
И главный вопрос будет уже не:
«Когда появится AGI?»
А:
«Кто первым действительно нажмёт Stop?»
И что произойдёт, если никто не нажмёт?