Nvidia вложила $150 млн в стартап, который запускает AI в продакшен. Эра inference началась

Пока все следят за новыми моделями и бенчмарками, Nvidia тихо делает ставку на то, что будет решать — окупится AI или нет.

Nvidia инвестировала $150 млн в стартап Baseten в рамках раунда Series E на $300 млн. Оценка компании взлетела до $5 млрд — более чем вдвое за несколько месяцев. Это третий раунд Baseten за последний год. Среди соинвесторов — CapitalG (венчурное подразделение Alphabet), IVP, Altimeter, Battery Ventures.

Baseten — это платформа для запуска AI-моделей в продакшене. Их клиенты — Cursor (тот самый AI-редактор кода, о котором все говорят), Notion, OpenEvidence, Abridge, Clay. Компании, которые строят реальные продукты, а не демки для Twitter.

Чтобы понять, почему Nvidia вкладывается в Baseten, нужно разобраться в базовой экономике AI. Она делится на две части: training и inference.

Training — это когда модель учат. Собирают терабайты данных, арендуют тысячи GPU на недели или месяцы, тратят миллионы долларов. GPT-4, по разным оценкам, обошёлся OpenAI в $50–100 млн только на обучение. Это разовая инвестиция — как построить завод.

Inference — это когда модель работает. Каждый раз, когда вы пишете запрос в ChatGPT, каждый раз, когда Cursor дописывает за вас код, каждый раз, когда AI-ассистент отвечает клиенту — это inference. Модель генерирует ответ на основе того, чему научилась.

И вот ключевой момент: inference — это не разовый платёж, а постоянный счётчик. По данным аналитиков, inference составляет 80–90% всех затрат на AI за жизненный цикл продукта. Обучил модель один раз — платишь за inference каждую секунду её работы.

Цифры впечатляют. Расходы OpenAI на inference GPT-4 в 2024 году оценивались в $2,3 млрд — в 15 раз больше стоимости обучения. Midjourney тратит около $100 000 в день на GPU для генерации картинок. Обычный чат-бот с тысячей пользователей в день может обходиться в $13–40 тысяч в месяц.

По прогнозам Deloitte, к концу 2026 года inference будет занимать две трети всех AI-вычислений. В 2023-м эта цифра составляла не более трети. Рынок inference-чипов вырастет до $50 млрд в этом году.

Это означает фундаментальный сдвиг в индустрии. Раньше главным вопросом было: «Как обучить модель умнее?» Теперь вопрос другой: «Как запустить модель дешевле, быстрее и надёжнее?»

Latency (задержка ответа) и cost-per-query (стоимость одного запроса) — вот что определяет, окупится ли AI-фича в продукте. Можно сделать гениальный AI-ассистент, но если каждый ответ стоит $0,50 и занимает 10 секунд — бизнес не сойдётся.

Baseten решает именно эту задачу. Их платформа оптимизирует запуск моделей: автоскейлинг, мониторинг, мультиоблачная архитектура, инструменты для разработчиков. CEO компании Тухин Шривастава говорит, что строит «AWS для inference». И судя по клиентской базе — у него получается.

Для Nvidia сделка стратегическая. Компания заработала миллиарды на буме обучения моделей — все покупали H100 для training. Но в inference конкуренция жёстче: есть специализированные чипы от Google (TPU), Amazon, AMD, есть стартапы вроде Groq (которую Nvidia купила в декабре за $20 млрд). Когда задача — не обучить монстра, а дёшево крутить модель 24/7, альтернативы Nvidia выглядят привлекательнее.

Инвестируя в Baseten, Nvidia страхует себя. Если клиенты переходят на inference-оптимизированные решения — пусть это будут решения, в которых Nvidia имеет долю. Об этой стратегии я подробнее писал в материале о том, как Nvidia строит экосистему физического AI.

Для российских разработчиков и предпринимателей тренд тоже важен. Если вы строите продукт с AI — стоимость inference станет ключевым фактором. Уже сейчас выбор между OpenAI API, Claude, открытыми моделями на своих серверах или облачных GPU — это не технический, а экономический вопрос. Кто считает юнит-экономику на inference — тот выживет. Кто не считает — будет удивляться счетам.

Nvidia делает умный ход. Пока все обсуждают, кто выпустит следующую «революционную» модель, компания тихо скупает инфраструктурный слой. Модели приходят и уходят, а платформы для их запуска остаются.

Я скептически отношусь к хайпу вокруг каждой новой LLM. DeepSeek показал, что обучить конкурентную модель можно за $6 млн — в 10 раз дешевле, чем у американских лидеров. Если процесс обучения стандартизируется, то конкурентное преимущество смещается туда, где Nvidia и хочет быть — в инфраструктуру.

Baseten с оценкой $5 млрд за платформу, которая просто хорошо запускает чужие модели — это сигнал. Рынок верит, что будущее AI не в одной супермодели от OpenAI, а в тысячах специализированных моделей, которые компании будут крутить у себя. И кто-то должен это обслуживать.

Ставлю на то, что через год-два мы будем обсуждать не «какая модель лучше», а «на какой платформе дешевле запускать». И Nvidia хочет быть в обоих разговорах.