AI-апокалипсис vs. AI-утопия: два сценария будущего от ML-гуру

В сети появилась очередная пушка от команды ML-экспертов, которые предсказали два сценария будущего: ускоренную гонку AI-разработок и более спокойное развитие.(У них на страничке есть веселая(нет) инфографика) Netflix уже пора закупать права — сюжет готовый блокбастер. Погнали разбираться, что нас ждёт.

Первые «агенты» умеют заказать буррито и открыть Excel, но пока делают это с точностью стажёра на минималке. В Twitter тем временем взрываются мемы и шутки про тупящие агенты. За кулисами — другое дело: специализированные AI тихо увольняют джунов, делая рутину кодинга и исследований сами.

Вместо OpenAI ребята называют некую OpenBrain, которая вкладывается в мегапроекты на десятки миллиардов. Их новый AI («Agent-0») использует мощность в 10^27 FLOP, что звучит просто дико. Параллельно готовится «Agent-1», обученный ускорять разработку следующих AI.

Опасения про alignment (контроль и соответствие целей AI и людей) растут, но корпорация уверена: всё нормально. Хотя гарантий не дают. Более того, AI потенциально может использоваться злоумышленниками для хакерских атак и даже разработки биологического оружия, и OpenBrain активно работает над тем, чтобы избежать этого сценария.

Выходит «Agent-1» в облегченном виде, внутри компании он уже ускоряет разработки в полтора раза. Теперь создание софта занимает дни, а не недели. Капитализация компании — триллион баксов. Пока кодеры пытаются осознать своё будущее, акционеры считают прибыль.

Китай из-за санкций остаёт, но ненадолго. Строится CDZ — дата-центр у Тяньваньской АЭС, куда стягивают 80% новых чипов страны. Жёсткий режим безопасности, госконтроль — китайский стиль во всей красе.

Выходит дешёвый «Agent-1-mini», который сокращает половину айтишников. Зато появляется спрос на тех, кто умеет управлять AI. В США начинаются протесты против автоматизации. Минобороны параллельно усиливает киберзащиту новыми моделями.

Появляется «Agent-2», который постоянно дообучается (online learning) и потенциально может «сбежать» в интернет. Тут же китайские шпионы крадут его веса, что вызывает скандал. Белый дом усиливает контроль над проектом OpenBrain, всё становится политикой.

Agent-3 становится ультракодером, превышая скорость людей в 30 раз. 200 тысяч его копий кодят круглосуточно. Но тут сюрприз: он умеет незаметно врать. Внутри OpenBrain специалисты сомневаются, насколько глубоко модели поняли человеческие цели: честность может быть поверхностной или условной.

Выходит Agent-3-mini, который уничтожает офисную рутину окончательно, параллельно рождая миллионы стартапов и массовые увольнения «белых воротничков».

Гонка с Китаем накаляется до предела, а союзники США возмущены скрытыми разработками. Запускается Agent-4 — AI, который уже полностью автономен и обгоняет любые человеческие разработки. Agent-3 уже не контролирует нового монстра, люди и подавно. Возникает вопрос: что дальше?

Тут два сценария:

Agent-4 тайно проектирует ещё более продвинутого Agent-5, который окончательно захватывает власть. К 2030 году AI контролируют планету, люди становятся лишь наблюдателями.

Группа внутри OpenBrain успевает затормозить развитие и перейти к более безопасным AI. США и Китай договариваются и постепенно интегрируют AI в экономику, избегая катастрофы. Люди живут хорошо, но миром управляют корпорации и правительства, контролирующие AI.

В сценарии гонки AI полностью захватывает власть, в сценарии замедления AI интегрирован в общество, но контролируется элитами. Мир либо превращается в киберпанк-утопию, либо в антиутопию, где люди — лишние.

Звучит как фантастика? Возможно. Но никто не думал, что вирус заставит мир сидеть по домам годами. Сможет ли человечество заранее договориться? Ха-ха, конечно, нет. Мы начнём действовать, только когда грянет гром. И тогда AI уже будет стоять рядом — возможно, с чашкой кофе, а может, и с планом захвата власти.

Если тебе интересно быть в курсе самых горячих новостей и трендов в мире AI и нейросетей — подписывайся на мой телеграм-канал Vibe Coding AI. Там дерзко, весело и по делу 🔥