Карта будущих дефицитов: как изменится архитектура искусственного интеллекта

Сегодня развитие искусственного интеллекта в основном воспринимается через одну цепочку:

ИИ → большие модели → вычислительные ускорители → высокоскоростная память → дата-центры → электричество → сети → вода

Чем больше модели и пользователей, тем больше требуется вычислительной мощности, памяти, электроэнергии и инфраструктуры.

Отсюда возникает сегодняшняя карта потенциальных дефицитов:

Но здесь есть важный вопрос: не экстраполируем ли мы сегодняшнюю архитектуру ИИ слишком далеко в будущее?

Главная развилка — где будет выполняться ИИ?

Большие модели продолжают увеличиваться, а вычисления остаются сосредоточены в крупных дата-центрах.

Большая модель → вычислительные кластеры → дата-центр → облако

Чем больше ИИ, тем больше требуется:

ИИ → дата-центры → вычислители → память → электричество → сети → вода

Если этот сценарий сохранится, сегодняшняя карта дефицитов может оказаться достаточно устойчивой.

Модели постепенно становятся меньше, эффективнее и дешевле в запуске.

Развиваются методы:

В результате часть задач можно выполнять непосредственно на устройстве пользователя или локальном сервере.

Компактная модель → локальная память → компьютер / смартфон / локальный сервер → выполнение задачи на месте

NVIDIA: Build Local AI With NVIDIA GPUs

NVIDIA прямо описывает локальный запуск моделей и сейчас указывает, например, DGX Spark с 128 ГБ объединённой памяти, способный запускать модели до 200 млрд параметров локально.

Вместо:

Запрос → облако → дата-центр → вычислительный кластер → ответ

часть задач начинает работать так:

Запрос → локальная модель → локальный ответ

Тогда часть нагрузки уходит из крупных дата-центров непосредственно на устройства и периферийные серверы.

Для решения конкретной задачи необязательно иметь гигантскую универсальную модель.

Система может выглядеть так:

Модель + методология + база знаний + контекст + правила работы

И это уже близко к тому, что мы сейчас делаем в проекте «Росток».

Часть «интеллекта» находится не только внутри самой модели, но и в:

Поэтому компактная специализированная модель в сочетании с хорошей базой знаний может решать достаточно сложные прикладные задачи без обращения к огромной облачной модели.

ИИ → локальные модели → память → устройства / периферийные серверы

При таком сценарии давление на крупные дата-центры, энергосистему и связанную с ними инфраструктуру может оказаться ниже первоначальных ожиданий.

Наступление искусственного интеллекта \\ Цифровизация хаоса (А. Масалович и А. Новицкий)

Небольшая модель на устройстве пользователя решает:

Если требуется большая модель или сложное рассуждение:

Локальная модель → облако → большая модель → ответ

Получается:

Сначала локально → в облако только при необходимости

Большая модель используется не для каждого запроса, а только там, где она действительно нужна.

Дата-центры продолжают расти, но нагрузка распределяется между:

локальным ИИ + периферийными серверами + облаком

Поэтому рост ИИ не обязательно означает пропорциональный рост потребности в огромных централизованных вычислительных мощностях.

Сегодня мы видим:

ИИ → дата-центры → электричество → сети → медь

Но технологическая эволюция может изменить саму цепочку.

ИИ ↑ → дата-центры ↑ → вычислители ↑ → память ↑ → электричество ↑ → сети ↑ → медь ↑

ИИ ↑ → локальный ИИ ↑ → память ↑ → устройства / периферия ↑

Локальный ИИ → большинство задач Облако → сложные задачи

Поэтому для нашей карты важен не только вопрос:

а гораздо более важный:

Технологический прогресс может не отменить дефицит.

Он может перенести его в другое место.

Именно поэтому в «Карте будущих дефицитов» нужно отслеживать не только рост спроса, но и технологии, способные сломать сегодняшнюю экстраполяцию.

Архитектор капитала (@architect_capital)
Автор AI-агента Росток — @RostokFinanceBot