Один леденящий душу прогноз нашего ИИ-будущего привлекает широкое внимание. Насколько он реалистичен?

Давайте на секунду представим, что впечатляющий темп прогресса ИИ последних лет продолжится еще несколько лет.

За это время мы прошли путь от ИИ, которые могли выдать несколько разумных предложений, до ИИ, способных создавать полноценные отчеты аналитических центров приемлемого качества; от ИИ, не умевших писать код, до ИИ, пишущих посредственный код на небольшой кодовой базе; от ИИ, создававших сюрреалистичные, абсурдные изображения, до ИИ, генерирующих убедительные поддельные короткие видео и аудиоклипы на любую тему.

Компании вливают миллиарды долларов и тонны талантов в улучшение этих моделей. Так куда же это нас приведет?

Представьте, что позже в этом году какая-то компания решает удвоить ставки на одном из самых экономически ценных применений ИИ: улучшении исследований в области ИИ. Компания разрабатывает более крупную и совершенную модель, тщательно настроенную для сверхдорогой, но сверхценной задачи обучения других моделей ИИ.

С помощью этого ИИ-тренера компания вырывается вперед, выпуская в 2026 году ИИ, которые достаточно хорошо работают с широким спектром задач и по сути функционируют как "сотрудник", которого вы можете "нанять". В течение следующего года фондовый рынок взлетает, поскольку почти бесконечное количество ИИ-сотрудников становится пригодным для все более широкого круга рабочих мест (включая мою работу и, вполне возможно, вашу).

Это начало AI 2027 — вдумчивого и детального краткосрочного прогноза от группы исследователей, которые считают, что масштабные изменения мира от ИИ наступают быстро — и мы к ним совершенно не готовы. Среди авторов примечательно присутствие Даниэля Кокотайло, бывшего исследователя OpenAI, который прославился тем, что рисковал миллионами долларов своей доли в компании, когда отказался подписывать соглашение о неразглашении.

"ИИ наступает быстро" — это то, что люди говорят уже давно, но часто таким образом, который трудно оспорить и трудно опровергнуть. AI 2027 — это попытка пойти в прямо противоположном направлении. Как и все лучшие прогнозы, он построен так, чтобы быть опровержимым — каждое предсказание достаточно конкретно и детально, чтобы потом было легко определить, сбылось ли оно. (Предполагая, конечно, что мы все еще будем здесь.)

Авторы описывают, как будут восприниматься достижения в области ИИ, как они повлияют на фондовый рынок, как они нарушат геополитику — и обосновывают эти прогнозы в сотнях страниц приложений. AI 2027 может оказаться совершенно неверным, но если это так, будет очень легко увидеть, где именно он ошибся.

Он также может оказаться правильным.

Хотя я скептически отношусь к точной временной шкале группы, которая предполагает, что большинство ключевых моментов, ведущих нас к катастрофе ИИ или политическому вмешательству, произойдут во время этой президентской администрации США, последовательность событий, которую они излагают, кажется мне весьма убедительной.

Любая компания, занимающаяся ИИ, удвоила бы ставки на ИИ, который улучшает ее разработку ИИ. (И некоторые из них, возможно, уже делают это внутри компании.) Если это произойдет, мы увидим улучшения даже быстрее, чем улучшения с 2023 года до настоящего времени, и в течение нескольких лет произойдет массовое экономическое потрясение, поскольку "ИИ-сотрудник" станет жизнеспособной альтернативой найму человека для большинства работ, которые можно выполнять удаленно.

Но в этом сценарии компания использует большинство своих новых "ИИ-сотрудников" внутри компании, чтобы продолжать выдавать новые прорывы в области ИИ. В результате технологический прогресс становится все быстрее и быстрее, но наша способность применять какой-либо надзор становится все слабее и слабее. Мы видим проблески странного и тревожного поведения продвинутых систем ИИ и пытаемся внести коррективы, чтобы "исправить" их. Но это оказываются поверхностные корректировки, которые просто скрывают степень, в которой эти все более мощные системы ИИ начали преследовать свои собственные цели — цели, которые мы не можем постичь. Это тоже уже начало происходить в некоторой степени. Часто можно увидеть жалобы на то, что ИИ делает "раздражающие" вещи, например, имитирует прохождение тестов кода, которые они не проходят.

Этот прогноз не только кажется мне правдоподобным, но и представляется курсом по умолчанию для того, что произойдет. Конечно, вы можете спорить о деталях того, как быстро это может развернуться, и вы даже можете придерживаться позиции, что прогресс ИИ наверняка зайдет в тупик в следующем году. Но если это предположение окажется неверным, то кажется очень трудным представить, как он в конечном итоге не приведет нас по широкому пути, который предвидит AI 2027, рано или поздно. И прогноз убедительно доказывает, что это произойдет раньше, чем почти кто-либо ожидает.

Не заблуждайтесь: путь, который предвидят авторы AI 2027, заканчивается правдоподобной катастрофой.

К 2027 году огромные объемы вычислительной мощности будут посвящены системам ИИ, занимающимся исследованиями ИИ, и все это с уменьшающимся человеческим надзором — не потому, что компании, занимающиеся ИИ, не хотят осуществлять надзор, а потому, что они больше не могут, настолько продвинутыми и быстрыми стали их творения. Правительство США удвоит усилия по победе в гонке вооружений с Китаем, даже несмотря на то, что решения, принимаемые ИИ, становятся все более непостижимыми для людей.

Авторы ожидают признаков того, что новые, мощные разрабатываемые системы ИИ преследуют свои собственные опасные цели — и они беспокоятся, что эти признаки будут проигнорированы людьми у власти из-за геополитических опасений по поводу того, что конкуренты догонят, поскольку экзистенциальная гонка ИИ, которая не оставляет места для безопасности, накаляется.

Все это, конечно, звучит пугающе правдоподобно. Вопрос в следующем: могут ли люди у власти сделать что-то лучше, чем прогнозируют авторы?

Определенно. Я бы сказала, что это даже не было бы так сложно. Но сделают ли они лучше? В конце концов, мы определенно терпели неудачу в гораздо более простых задачах.

Сообщается, что вице-президент Джей Ди Вэнс прочитал AI 2027, и он выразил надежду, что новый папа — который уже назвал ИИ главным вызовом для человечества — будет осуществлять международное лидерство, чтобы попытаться избежать худших результатов, которые он предполагает. Посмотрим.

Мы живем в интересные (и глубоко тревожные) времена. Я думаю, что стоит прочитать AI 2027, чтобы сделать неопределенное облако беспокойства, пронизывающее дискурс об ИИ, конкретным и опровержимым, чтобы понять, на что обращают внимание некоторые высокопоставленные люди в мире ИИ и правительстве, и решить, что вы захотите делать, если увидите, что это начинает сбываться.