Война AI-моделей заканчивается. Начинается война за самый дешёвый токен

Пока мы сравниваем GPT, Claude, Gemini и DeepSeek по очередному бенчмарку, AI-индустрия постепенно начинает воевать на другом уровне.

6 августа AMD купила Taalas — стартап, который работает над технологиями для более дешёвого и быстрого запуска AI-моделей. Почти одновременно Anthropic начала собирать собственную команду разработчиков чипов для Claude.

А несколькими неделями раньше появилась ещё одна необычная история: компания получила кредит на $400 млн, используя специализированные AI-чипы в качестве обеспечения.

На первый взгляд это три разные новости. Но вместе они показывают один интересный сдвиг: гонка за самой умной моделью постепенно превращается ещё и в гонку за самым дешёвым токеном.

Последние несколько лет индустрия была одержима обучением моделей. Обсуждали количество GPU, триллионы обучающих токенов, размеры моделей и стоимость очередного большого запуска обучения.

Но после обучения начинается другая часть экономики AI. Модель должна отвечать пользователям, и каждый такой ответ снова требует вычислений.

Особенно хорошо это видно на AI-агентах. Одна команда пользователя может привести к десяткам обращений к модели: агент читает файлы, составляет план, пишет код, запускает тесты, находит ошибку и пытается её исправить.

Для пользователя это одна задача. Для дата-центра — множество отдельных запусков модели.

И когда таких пользователей миллионы, небольшая разница в стоимости каждого запуска превращается в огромные деньги.

Покупка Taalas интересна именно в этом контексте. AMD получает технологии, которые должны помочь быстрее и дешевле запускать AI-модели на её оборудовании.

Это уже не первая подобная покупка компании. AMD постепенно собирает команды, которые работают над разными способами ускорить обработку AI-запросов.

Конкуренция с Nvidia поэтому становится шире. Вопрос уже не только в том, чей чип быстрее.

Намного интереснее другое: сколько реальной AI-работы можно выполнить на этом оборудовании за один доллар?

Именно это в конечном итоге влияет на стоимость API, подписок и работы AI-агентов.

Anthropic тем временем начала создавать свою команду разработчиков чипов. Это не означает, что Claude скоро полностью переедет на собственное оборудование.

Но компания явно хочет лучше понимать и контролировать железо, на котором работают её модели. Чем эффективнее работает Claude, тем меньше вычислительных ресурсов требуется для обслуживания пользователей.

На небольшом масштабе несколько процентов экономии выглядят незначительно. На миллиардах запросов они превращаются в огромные суммы.

Поэтому производительность AI — это уже не только технический вопрос. Это напрямую влияет на экономику всего бизнеса.

Представим, что одна модель получает условные 95 баллов качества, а другая — 92. При этом первая стоит в десять раз дороже.

Для одной очень сложной задачи первая может быть лучшим выбором. Но если AI-агент должен выполнить сотни небольших действий, экономика становится совсем другой.

Поэтому одного benchmark score уже недостаточно. Намного интереснее знать, сколько денег потребовалось модели, чтобы действительно выполнить задачу.

Например, сколько стоило исправление ошибки или рефакторинг? Прошли ли после этого тесты? Понадобились ли ручные исправления?

DeepSeek показал рынку, что сильный AI может стоить намного дешевле привычных западных флагманов. Но следующий подобный ценовой шок необязательно создаст новая модель.

Возможно, его устроит компания, которая научится запускать уже существующие модели в несколько раз дешевле. Например, благодаря новому чипу, более эффективной работе с памятью или более быстрым вычислениям.

Пользователь может вообще не знать, что изменилось внутри дата-центра. Он просто увидит, что вчера миллион токенов стоил несколько долларов, а сегодня похожее качество доступно за десятки центов.

Поэтому самая интересная война AI начинает происходить не только между OpenAI, Anthropic, Google и китайскими лабораториями. Уровнем ниже уже идёт своё соревнование: Nvidia, AMD, Google и десятки производителей специализированных AI-чипов.

Возможно, один из главных показателей следующего этапа AI будет выглядеть намного скучнее очередного бенчмарка: сколько полезной работы система способна выполнить за $1.

Модели продолжат становиться умнее. Но для огромного числа задач они уже достаточно хороши, чтобы главным фактором постепенно становилась экономика.

Больше про LLM и AI — в нашем Telegram-канале (@devgeek_sh). Разбираем новые модели, делимся опытом и полезными находками.