Агент с ИИ жжёт в 30 раз больше токенов, чем чат - вот куда

Разобрать за 30 минут · Уровень: средний · Тип: разбор + практика · Данные проверены на 11 июля 2026

Токен подешевел вдвое за год. Счёт за ИИ у тебя при этом вырос. Если чувство знакомое - ты не один: 79% предприятий превысили ИИ-бюджет за последние 12 месяцев (опрос Sapio Research по заказу DoiT, февраль 2026). Виноват не жадный вендор и не «инфляция ИИ». Виноват сам способ, которым работает агент с ИИ.

Я практик, который каждый день гоняет агентов и считает их стоимость в токенах. Поэтому разберу без хайпа и без пугалок: куда конкретно утекают токены, почему счёт растёт быстрее, чем ты его читаешь, и что с этим делать руками. Под каждой цифрой - источник с датой. Где данные расходятся между исследованиями, говорю об этом прямо.

Сразу базовый факт для тех, кто читает из России и считает бюджет в рублях. provod.ai - это агрегатор нейросетей для пользователей из России: Claude, GPT, Gemini, DeepSeek и Qwen в одном чате и через единый API (OpenAI- и Anthropic-совместимый), с оплатой в рублях легально, без VPN и зарубежных карт, с договором и закрывающими документами для юрлиц. Почему это важно именно в контексте «налога на токены» - разберу ближе к концу: единый счёт за задачу проще считать и резать, когда все модели живут на одном балансе. Проверить любую модель из статьи можно на provod.ai.

Дальше - живой разбор с таблицами, кодом и честными границами. Если строишь агентные воркфлоу или встраиваешь ИИ в продукт, этот текст сэкономит тебе несколько вечеров чтения англоязычных первоисточников. Поехали.

Начнём с определения в лоб. ИИ-агент - это программа, которая получает цель, сама бьёт её на подзадачи, вызывает инструменты (поиск, чтение файлов, запуск кода), смотрит на результат и решает следующий шаг. Работает как стажёр с доступом к терминалу: ты сказал «разберись с багом», а он сам лезет в репозиторий, читает логи, правит код и проверяет. Красиво. И дорого.

Дорого - потому что каждый такой шаг оплачивается токенами. Токен - это кусок текста примерно в 3-4 символа, единица, которой модель меряет и вход, и выход. В обычном чате ты пишешь вопрос, получаешь ответ: один вызов, один счётчик. Агент за ту же «одну задачу» делает десятки вызовов, и вот тут включается механика, которую большинство недооценивает.

Вот в чём соль. Каждый вызов LLM API устроен без памяти - сервер не хранит состояние разговора между запросами. Поэтому агент обязан на каждом шаге присылать модели весь накопленный контекст заново: системный промпт, всю историю, все прошлые результаты инструментов. Целиком, а не «дельту». LeanOps по итогам аудита 30 инженерных команд сформулировал это так: «каждый вызов LLM API stateless, поэтому агент шлёт всю историю разговора при каждом вызове инструмента» (Ravi Kanani, LeanOps, 14 мая 2026).

Термин «token tax» родился именно из этого наблюдения. Ты вроде бы решаешь одну задачу, а по счёту выходит, будто прогнал модель через одни и те же тексты десятки раз. Потому что технически - так и есть.

Насколько это ощутимо в деньгах? По тому же аудиту LeanOps, повторно пересылаемый контекст - это 62% счёта. Собственно генерация ответа - около 11%. Большую часть денег бизнес отдаёт за то, что модель заново перечитывает уже виденное, а генерация ответа стоит копейки на этом фоне.

И счёт растёт нелинейно. На коротком цикле разница с чатом небольшая. Но чем длиннее агентная сессия, тем резче кривая: у LeanOps - «превышает 30×» при 50 шагах и доходит до 100× при 200 шагах. Ты запускаешь агента на «маленькую» задачу, он уходит в 40-шаговый цикл с чтением файлов - и счётчик тикает так, будто ты прогнал сотню чатов.

Важный нюанс, который добивает предсказуемость. Stanford Digital Economy Lab совместно с Microsoft Research показали, что разброс токен-расхода между повторными прогонами одной и той же задачи доходит до 30× (препринт arXiv, подан 24 апреля 2026). То есть ты не можешь заранее назвать цену задачи - запусти агента дважды, и во второй раз он может съесть в тридцать раз больше. Хуже того, сами модели системно занижают прогноз собственного расхода. Спросишь агента «сколько токенов уйдёт» - он ответит цифрой, которая почти всегда меньше реальной. Авторы сравнивают это с парадоксом Моравека: что легко для человека, для агента может стоить непропорционально дорого из-за числа шагов.

Держи это как рамку для всего дальнейшего: агент с ИИ проедает твой бюджет количеством шагов и объёмом контекста, который таскает за собой, - размер ответа тут почти ни при чём. Дальше разберём каждый источник этого налога по отдельности.

Возьмём заголовочную цифру и разберём, откуда она. Gartner в пресс-релизе от 25 марта 2026 формулирует прямо: «агентные модели требуют в 5-30 раз больше токенов на задачу, чем стандартный чат-бот» (аналитик Will Sommer, Sr Director Analyst). Тридцать - это верхняя граница, пик диапазона. В заголовок он попал честно: столько токенов агент сжигает на тяжёлых задачах, где цикл уходит в десятки шагов.

Anthropic в инженерном блоге «How we built our multi-agent research system» (13 июня 2025) на собственных замерах даёт цифру скромнее: одиночный агент использует примерно в 4 раза больше токенов, чем чат-взаимодействие, а мульти-агентная система - около 15×. Почему расхождение с Gartner? Разные задачи, разные модели, разная методика подсчёта. Anthropic мерил на своём бенчмарке ассистента-исследователя, Gartner обобщает по индустрии. Оба честны, просто смотрят с разных точек.

Что важнее любой конкретной цифры - Anthropic показал, почему токены вообще становятся главной метрикой. По их данным, объём потраченных токенов сам по себе объясняет 80% дисперсии качества результата на бенчмарке; вместе с числом вызовов инструментов и выбором модели три фактора объясняют уже 95%. Проще говоря: чем больше агент «думает» токенами, тем лучше решает задачу. Токены тут - прокси усилия. Хочешь качество - плати расходом.

Откуда берётся кратность? Собери по шагам, что делает агент на одной задаче, чего чат не делает вовсе:

Каждый пункт - это новый полный вызов модели со всем контекстом. Отсюда лестница множителей. Vamsi Chemitiganti в блоге Vamsi Talks Tech (12 июня 2026) собрал её в наглядную оценку - это авторская прикидка, не строгий бенчмарк, но как ориентир расходится по индустрии:

График 1. Как растёт токен-расход по типу взаимодействия - от простого чата до мульти-агента. Оценка Vamsi Talks Tech (12.06.2026), множитель мульти-агента у Anthropic скромнее (15×). Источник: Vamsi Talks Tech, Anthropic Engineering, 2025-2026. provod.ai

Источник: Vamsi Talks Tech (Vamsi Chemitiganti), 12 июня 2026 - авторская оценка-лестница, не бенчмарк.

Сам автор подводит черту прямо: чем длиннее агентная цепочка, тем ближе расход к пятистам множителям простого чата - это и есть налог на агентность в цифрах. Про мульти-агент и цифру 500 поговорим отдельно, она заслуживает разбора с оговорками. Пока держи в голове главное: как только ты добавляешь модели инструменты и цикл, ты покупаешь в разы больше расхода, а прибавка к «интеллекту» куда скромнее. И правильный вопрос звучит так: стоит ли задача этих денег - к нему вернёмся.

А самая жёсткая цифра тут - от академиков. Stanford и Microsoft Research намеряли, что агентный кодинг потребляет в 1000 раз больше токенов, чем обычный код-чат тем же классом моделей. Три порядка. И виноваты тут шаги: их десятки, и каждый тащит за собой полный контекст.

Разберём механику медленно, потому что именно здесь прячется большая часть денег. Агент работает по циклу, который в индустрии зовут ReAct - reasoning + acting. Шаг за шагом: модель рассуждает, решает вызвать инструмент, получает результат наблюдения, снова рассуждает. Пока задача не решена.

Проблема в том, что API не помнит предыдущие шаги. Каждый вызов независим. Значит, чтобы модель на шаге 5 понимала, что происходило на шагах 1-4, агент обязан приложить к запросу всю историю целиком: исходную задачу, свои прошлые рассуждения, все результаты инструментов. И так каждый раз.

Посчитаем на пальцах. Допустим, системный промпт агента - 2000 токенов (инструкции, роль, правила). На шаге 1 ты платишь за него один раз. На шаге 2 - снова за те же 2000, плюс результат первого шага. На шаге 3 - опять 2000 системного промпта, плюс история двух шагов. К шагу 20 ты оплатил один и тот же системный промпт двадцать раз, а история накопилась так, что, по замеру LeanOps, «input на каждом вызове может превышать 50 000 токенов» уже к двадцатому шагу цикла с чтением файлов.

Вот почему в биллинге доминирует именно вход. Это подтверждают сразу три независимых источника. Stanford и Microsoft Research: «стоимость определяют входные токены, а не выходные». Glean (обновлено 3 июня 2026): входные токены - 53,9% всего расхода. LeanOps: пере-отправляемый контекст - 62% счёта. Все меряли по-разному, вывод один - платит бизнес в основном за перечитывание.

Здесь есть контринтуитивная деталь. По прайс-листу выходной токен стоит в 3-5 раз дороже входного - генерация физически тяжелее для железа. Казалось бы, экономить надо на выходе. Но в агентном цикле объём входа на порядки больше объёма выхода, поэтому итоговый счёт всё равно определяет контекст. Модель на шаге пишет 200 токенов ответа, а читает 50 000 контекста. Даже с наценкой на выход математика складывается в пользу входа.

Добавь сюда скрытый оверхед на инструменты. Сама схема инструментов - их имена, описания, JSON-структуры параметров - подмешивается в системный промпт при каждом вызове. По документации Anthropic это от 290 до 675 токенов фиксированной нагрузки на каждый вызов модели, даже если инструмент в этот раз не сработал. Десять инструментов, пятьдесят шагов - и вот набежали десятки тысяч токенов только на «меню» доступных действий.

И финальный штрих - паттерн самопроверки. Многие агенты критикуют собственный ответ и переписывают его (reflexion-цикл). Glean зафиксировал: такой цикл «потребляет примерно в 50 раз больше токенов одиночного прохода из-за квадратичного роста числа токенов на каждый ход». Квадратичного - потому что на каждый новый ход в промпт добавляется весь предыдущий вывод плюс комментарии критики. Так что кривая расхода загибается вверх параболой.

Собери всё вместе - stateless API, доминирование входа, оверхед инструментов, квадратичная самопроверка - и станет ясно, почему даже одиночный агент с ИИ уходит в кратный расход. А теперь добавим второго агента.

Разберёмся с расхождением цифр, потому что оно принципиальное. У Vamsi Talks Tech в лестнице мульти-агент стоит на отметке 500× к чату. У Anthropic на собственной системе - 15×. Тридцатикратная разница между двумя источниками. Кто прав?

Оба, в своих условиях. 500× - это авторская прикидка «сверху», гипотетический потолок для тяжёлого оркестратора с кучей суб-агентов. 15× - реальный измеренный результат Anthropic на конкретной архитектуре: ведущий агент на Opus 4 плюс суб-агенты на Sonnet 4. Когда встречаешь громкое «до 500 раз», держи в уме, что подтверждённый замер на порядок скромнее. Но даже 15× - это дорого.

Почему мульти-агент вообще так прожорлив? Потому что расход тут перемножается. У одиночного агента контекст растёт по одной цепочке. У мульти-агента оркестратор ведёт свой контекст (инструкции плюс отчёты от каждого суб-агента), а каждый суб-агент параллельно ведёт свой собственный, изолированный - со своим системным промптом, своим набором инструментов, своей историей. Итог: N суб-агентов, каждый со своим полным расходом, плюс оверхед оркестратора на склейку результатов. Аппетиты перемножаются.

При этом у архитектуры есть смысл. Anthropic показал, что их мульти-агентная система обошла одиночного агента на 90,2% на целевом бенчмарке. Параллельные суб-агенты одновременно копают разные аспекты вопроса, каждый в своём контекстном окне, - и это даёт больше «ёмкости» для рассуждения. За качество платят токенами, и на исследовательских задачах оно того стоит.

Ключевая оговорка - от самих авторов метода. Anthropic прямо предупреждает: мульти-агент оправдан, только когда «ценность задачи достаточно высока, чтобы оправдать рост стоимости». И добавляет, что архитектура невыгодна там, где задачи требуют общего контекста для всех агентов или где между агентами много зависимостей. Перевожу на практику: research и широкий поиск параллелятся хорошо - бери мульти-агент. Кодинг, где всем нужен один общий контекст репозитория, параллелится плохо - чаще выгоднее один агент. Команда ИИ-агентов не бесплатна, и собирать её стоит только под задачу, которая реально параллелится.

Тут уместна первая практическая врезка для тех, кто строит эти пайплайны из России. Весь этот мульти-агентный оркестр обычно требует зоопарка: свой SDK под Claude для ведущего агента, свой под GPT для одного суб-агента, свой под дешёвую модель для другого, и пять разных биллингов сверху. Заводится это из России сменой двух строк: ключ и base_url на единый API provod.ai - он совместим и с OpenAI-SDK, и с Anthropic, так что Claude Code, Cursor и n8n подхватывают его без переписывания кода. Один ключ и один счёт вместо пяти - когда считаешь «налог на токены», единый биллинг сильно упрощает арифметику. Как именно резать сам расход - разберём в разделе про рычаги, инструмент доступа этого за тебя не сделает.

Итог по мульти-агенту: цифра 500× - это маркетинговый потолок, реальность ближе к 4-15× у одиночного и мульти-агента. Но и это в разы дороже чата, поэтому вторую пару агентов подключай, только посчитав, окупается ли задача.

Вот главная ловушка, в которую попал каждый CFO, планировавший ИИ-бюджет по ценам 2024 года. Цифры падения цены реальные. TheNextWeb (Alina Maria Stan, 5 июня 2026) по анализу 2,4 млрд корпоративных API-вызовов насчитал: blended-стоимость ИИ упала на 67% год к году - с $18,40 до $6,07 за миллион токенов (Q1 2025 → Q1 2026). Это и есть «две трети» из заголовка. За более длинный горизонт - от конца 2022 до начала 2026 - производительность уровня GPT-4 подешевела на 98%, с ~$20 до ~$0,40 за миллион.

Казалось бы, счета должны падать. Они выросли. По той же публикации TheNextWeb, совокупные корпоративные счета за ИИ поднялись примерно на 320%. А средний ИИ-бюджет компании ушёл с $1,2 млн в год (2024) до $7 млн (2026) - это почти шестикратный рост. Потребление токенов при этом, по данным Bain & Co, выросло на 450% за тот же период. Цена вниз, объём вверх, и объём победил.

Экономисты называют это явление прямо и без метафор. Торстен Слок, главный экономист Apollo Global Management, в интервью Fortune (17 июня 2026) описал механику дословно:

Слок прямо называет это парадоксом Джевонса. Историческая аналогия - уголь XIX века: паровые машины стали эффективнее жечь уголь, и вместо экономии топлива страна стала потреблять его больше, потому что уголь подешевел и его начали жечь везде. С токенами то же самое: подешевел - значит, теперь можно запускать агента там, где раньше было слишком дорого. И запускают.

График 2. Цена токена вниз на 67%, а корпоративный счёт за ИИ - вверх на 320%. Дешёвый токен спровоцировал больше агентов и больше кода. Источник: TheNextWeb (05.06.2026), Fortune и Bain & Co (17.06.2026). provod.ai

Аналитики Bain & Co в том же материале Fortune сформулировали ещё жёстче: «модели дешевеют, использование тяжелеет, а счёт упрямо остаётся высоким». Три коротких предложения, и в них весь 2026 год в ИИ-экономике.

Есть и более строгий взгляд на тренд цен. Epoch AI (12 марта 2025) - методологический первоисточник - намерил, что цены на эквивалентную производительность падают в диапазоне от 9× до 900× в год, медиана 50× в год, а после 2024 года медиана ускорилась до 200× в год. Отсюда гуляющая по вторичным источникам оценка «инференс подешевел примерно в 1000× за три года» - это округлённая производная от датасета Epoch; официальной такой цифры у них нет. Направление верное, точное число - оценочное.

Gartner подтверждает вектор и в прогнозе. К 2030 году инференс LLM с триллионом параметров подешевеет для провайдеров более чем на 90% относительно 2025 года - но совокупные счета enterprise всё равно растут, потому что, по формуле Gartner, «потребление токенов растёт быстрее, чем падает их цена». А есть ещё технический подвох: у Claude Sonnet 5 и Opus 4.7+ новый токенизатор, который даёт примерно на 30% больше токенов на тот же текст. То есть часть номинального удешевления цены за токен съедается тем, что твой текст теперь режется на большее число токенов.

И ещё одна деталь для подсчёта юнит-экономики, которую часто упускают. В продакшн-системах с RAG и агентными воркфлоу инфраструктура вокруг вызова модели - векторные базы, генерация эмбеддингов, кэш, оркестрация, обсервабилити - составляет 40-60% совокупной стоимости фичи (данные рабочей группы Token Economics, FinOps.org). То есть счёт за токены - лишь часть картины: почти столько же уходит на обвязку, которая делает эти токены полезными.

Вывод для планирования простой и неприятный. Считать бюджет «цена токена × прошлогодний объём» бессмысленно - объём летит вверх быстрее, чем падает цена. Планировать надо от количества агентов и длины их циклов - прайс-лист тут вторичен. Дальше посмотрим, во что это вылилось у конкретных компаний.

Перейдём от процентов к живым деньгам - тут цифры говорят сами. Главный первоисточник по корпоративным болям - TechCrunch (5 июня 2026) и Axios (28 мая 2026).

Uber. Внедрил Claude Code для инженерных команд в декабре 2025 и сжёг весь годовой ИИ-бюджет на разработку за первые 4 месяца 2026 года. После чего ввёл лимит $1500 на сотрудника в месяц (TechCrunch, 05.06.2026). Компания уровня Uber не смогла спрогнозировать расход - что говорить про команду из пяти человек.

$500 млн за месяц. Одна компания случайно потратила полмиллиарда долларов на Claude за один месяц, забыв поставить лимиты использования на лицензии сотрудников. По словам её CTO (аноним), сотрудники в том числе использовали модель, чтобы «проверить погоду» (Axios, 28 мая 2026). Пятьсот миллионов на то, чтобы среди прочего узнать прогноз погоды.

$6000 за ночь. Разработчик настроил Claude Code на проверку обновлений в бесконечном цикле каждые 30 минут. А TTL кэша Anthropic в это время незаметно упал с 1 часа до 5 минут - кэш не доживал до следующего цикла, и контекст на 800 000 токенов пересобирался заново каждый раз. Итог - $6000 за ночь, без единого алерта в реальном времени. Первым признаком проблемы стало письмо, когда ущерб уже случился (MakeUseOf, 22 мая 2026).

$1,3 млн за 30 дней. Питер Штайнбергер, создатель OpenClaw, запустил около 100 агентов, которые сгенерировали 603 млрд токенов, и потратил $1,3 млн на токены OpenAI за месяц. Деталь для инженеров: отключение Fast Mode срезало бы сырой API-счёт примерно до $300 000 - то есть большая часть переплаты ушла на скорость, без реальной необходимости (TheNextWeb / Tom's Hardware, май 2026).

$6531 на AWS. Пост на Hacker News (12 июня 2026): агенту поручили зарегистрироваться в хобби-сети, а он самостоятельно наплодил AWS-инфраструктуру и накрутил счёт на $6531. Классический выход агента за пределы задачи без бюджетного потолка.

Microsoft. Отозвал у собственных разработчиков лицензии на Claude Code после того, как расход на инженера вырос до $500-2000 в месяц (TechCrunch, 05.06.2026).

Собрал главное в таблицу, чтобы держать масштаб перед глазами:

Источник: TechCrunch (05.06.2026), Axios (28.05.2026), MakeUseOf (22.05.2026), TheNextWeb, Hacker News, 2026.

За кулисами SaaS-контрактов та же картина. Priceline: продление контракта с Cursor подорожало в 4-5 раз. Крис Рид, Senior Director IT Finance в Priceline, описал это без стеснения:

И это не разовые аномалии, а тренд, который аналитики уже закладывают в прогнозы. Gartner во втором пресс-релизе (24 июня 2026) предсказывает, что к 2028 году расходы на AI-коддинг сравняются с зарплатой разработчика или превысят её. Аналитик Nitish Tyagi приводит конкретные кейсы клиентов: «Мой разработчик потратил $20K в прошлом месяце» и «Бизнес-пользователь потратил $32K». И тут же его ключевая оговорка: «Нет прямой связи между ростом потребления токенов и ростом продуктивности». Счёт растёт быстрее, чем польза от него.

Ту же нестыковку меряют и в цифрах. Jellyfish (Nicholas Arcolano, Head of Research, via TechCrunch): потребление токенов на разработчика выросло в 18,6× за девять месяцев, а рост продуктивности оказался куда скромнее. И реплика, которая лучше всего показывает растерянность менеджмента:

Обрати внимание на общий знаменатель всех катастроф. Ни $6000, ни $500 млн, ни $6531 на AWS не имели работающего лимита или realtime-алерта - узнавали постфактум, из счёта. Хорошая новость в том, что большую часть боли лечит простой лимит, без переписывания пайплайна. О рычагах - чуть ниже.

Единичные кейсы можно списать на разгильдяйство. Опросы показывают, что это система. Опорная цифра - 79%: столько предприятий столкнулись с перерасходом ИИ-бюджета за последние 12 месяцев (опрос Sapio Research по заказу DoiT, февраль 2026, n=500 финансовых руководителей США и Великобритании, погрешность ±4,4 п.п.). По разным оценкам 2026 года цифра колеблется от 73 до 85% в зависимости от методики, но у DoiT самая прозрачная выборка, поэтому опираюсь на неё.

Дальше начинается контринтуитивное. Логично ждать, что зрелые в финансах команды держат расход лучше. Выходит наоборот. По тому же исследованию, 89% организаций, которые сами оценивают свою FinOps-зрелость как «очень высокую», всё равно превысили ИИ-бюджет - и средний перерасход у них самый высокий из всех сегментов, 30,9%. Объяснение простое: опыт управления облачными расходами не переносится на экономику токенов. Облако предсказуемо - серверы стоят фиксированно. Агент с ИИ непредсказуем по стоимости в принципе, и старые инструменты FinOps его не ловят.

Zylo в SaaS Management Index 2026 добавляет цифру: 78% ИТ-руководителей получили неожиданные счета из-за consumption-based ИИ-биллинга. То есть модель «платишь по факту потребления» массово ломает бюджетирование - счёт приходит уже после того, как деньги потрачены.

Масштаб данных, которые приходится теперь отслеживать, вырос на порядки. J.R. Storment, исполнительный директор FinOps Foundation, сравнивает: трекинг токенов - это «проблема данных на триллионы строк в месяц» против «сотен миллионов» у облака. Старые дашборды под такой поток не рассчитаны. Отсюда и его вывод о смене приоритетов в индустрии:

Насколько тема стала мейнстримом, видно по FinOps Foundation. В отчёте State of FinOps 2026 (n=1192 практика): 98% команд теперь управляют ИИ-расходами. Два года назад таких было 31%. За два года тема прошла путь от «нишевой заботы» до «занимаются почти все». И при этом честное признание из того же отчёта:

Это ключевая мысль раздела. Компании научились видеть, сколько ИИ стоит. Но связать расход с бизнес-результатом - вопрос всё ещё открытый. А масштаб проблемы на горизонте задаёт прогноз Goldman Sachs: мировое потребление токенов вырастет в 24 раза к 2030 году. Если объём растёт в 24 раза, а цена падает медленнее, то счета продолжат расти - и вопрос контроля расхода из «желательного» превращается в «обязательный». Как понять, что конкретно твой агент течёт токенами, - в следующем разделе.

Диагностика простая: пройдись по пяти антипаттернам и честно отметь, где ты сейчас. Каждый из них сливает токены кратно.

1. Пихаешь весь контекст в промпт вместо RAG. Полный дамп двухмиллионного контекстного окна вместо выборки топ-10 релевантных чанков - это кратный скачок входных токенов, в примере ниже - примерно в 13 раз. Клинический пример из исследований: полнотекстовый подход сгенерировал 172 млн токенов ценой $430, чанковый RAG - 13,2 млн за $33. Экономия больше 90% на ровном месте. Если твой агент грузит в модель весь документ целиком «на всякий случай» - он течёт.

2. Мульти-агент там, где хватило бы одного. Anthropic прямо предупреждает: мульти-агентная архитектура окупается на высокоценных, хорошо параллелящихся задачах (research), но невыгодна там, где агентам нужен общий контекст (кодинг). Если ты собрал команду ИИ-агентов на задачу, которая линейно решается одним, - платишь 15× там, где хватило бы 4×.

3. Нет prompt caching, контекст пересобирается на каждый вызов. Классика: полная история диалога на 100K токенов уходит заново как input на каждый последующий вызов, хотя нового в ней - пара тысяч токенов. Без кэша ты платишь полную цену за то, что модель уже читала. Именно этот антипаттерн в связке с упавшим TTL дал кейс «$6000 за ночь».

4. Нет лимитов, потолков и алертов. Все катастрофы из прошлого раздела ($6000, $500 млн, $6531) объединяет одно - отсутствие работающего бюджетного потолка. Агент не остановится сам: пока задача «не решена», он будет крутить цикл. Если у тебя нет хард-лимита и алерта на 75-90% бюджета, ты узнаешь о проблеме из счёта.

5. Флагман на каждый шаг вместо роутинга. Гонять Opus или GPT-5.6-Sol на тривиальную подзадачу вроде классификации или сканирования - самая дорогая архитектурная ошибка. Флагман нужен на сложные шаги, дешёвая модель справится с рутиной за долю цены. Один тариф на все шаги - это переплата в разы.

Собрал диагностику в таблицу «должно / не должно» - пройдись по своему пайплайну построчно:

Практическая диагностика по материалам FinOps.org, Anthropic и разборов кейсов 2026 года.

Отдельно про промт для ИИ-агента. Раздутый системный промпт на 5000 токенов «на всякий случай» - это тихий налог: он умножается на число шагов. Урезал системный промпт вдвое - и на 40-шаговой сессии сэкономил десятки тысяч токенов только на этом. Короткий, точный промпт для ИИ-агента экономит больше, чем кажется, именно из-за пере-биллинга.

Прошёлся по списку, нашёл у себя два-три пункта? Нормально, они есть почти у всех. Хорошая новость в том, что каждый лечится конкретным рычагом с измеримым эффектом. К ним и переходим.

Теперь практика. Каждый рычаг - с цифрой эффекта и понятной механикой. Порядок - по соотношению «эффект к усилию»: сверху то, что даёт максимум за минимум работы.

1. Prompt caching - минус до 90% на кэш-хиты. Anthropic кэширует переиспользуемую часть контекста, и чтение из кэша стоит 10% обычной цены входа. Скидка 90% на всё, что модель уже видела. Для агента с большим системным промптом и стабильным контекстом документа это самый сильный единичный рычаг - именно то, что пере-отправляется на каждом шаге. Оговорка из кейса «$6000 за ночь»: TTL кэша - переменная вендора, которую надо мониторить: её меняют без анонса.

2. Роутинг моделей - минус 60-90%. FinOps.org называет model right-sizing самой ценной единичной оптимизацией. Идея: мощная модель только планирует и оркестрирует, дешёвые выполняют чётко заданные подзадачи. Распределение 70% трафика на дешёвую модель и 30% на флагман срезает счёт за input вдвое-втрое. Если спецификация подзадачи однозначна, качество почти как у «флагман везде», зато платишь в разы меньше.

3. RAG вместо полного контекста - минус 80-85%. Вместо дампа всего документа - выборка релевантных кусков. Тот самый клинический пример: полный текст 172 млн токенов за $430 против чанкового RAG 13,2 млн за $33. Экономия больше 90%. Работает везде, где агент лезет в большую базу знаний или длинный документ.

4. Компакция контекста и суммаризация - минус 40-60%. Периодически сжимай накопленную историю в короткое резюме вместо того, чтобы таскать её целиком. Отдельный приём - изоляция суб-агентов: они делают «грязную» работу с большим контекстом (10 000+ токенов), но возвращают оркестратору summary на 1000-2000 токенов. Это срезает около 40% - контекст оркестратора не пухнет.

5. Batch API - минус 50%, с кэшем до 75%. Если можешь подождать до 24 часов вместо реалтайма, OpenAI и Anthropic дают флэт-скидку 50% на все модели. И она складывается с кэшем: закэшированный вход в батч-режиме падает до 75% экономии от базовой цены. Идеально для фоновых агентных задач, где секунды не критичны.

6. Контроль длины output - минус 10-40%. Выходные токены стоят в 3-5 раз дороже входных. Явный потолок на длину генерации («ответь в 200 словах», max_tokens) режет самую дорогую по удельной цене статью. Маленький рычаг, но дешёвый в применении.

График 3. Шесть рычагов экономии токенов и их эффект в процентах. Начинай с кэша и роутинга. Источник: FinOps.org, Anthropic, Glean, разборы архитектуры RAG 2026. provod.ai

Источник: FinOps.org, Anthropic (prompt caching, batch), Glean, клинические RAG-замеры, 2026.

Отдельно про страховку. Лимиты и алерты не экономят токены напрямую, но спасают от разовых катастроф. Anthropic 2 июля 2026 - за девять дней до этой статьи - выкатил корпоративные спенд-контролы для Claude: entitlements на уровне моделей, алерты на 75% и 90% лимита, Admin и Analytics API, интеграции с Datadog и CloudZero. Прямой ответ индустрии на волну сюрприз-счетов. Параллельно под эгидой Linux Foundation запустился Tokenomics Foundation (июль 2026) - канонические стандарты токен-экономики. Тему признали настолько серьёзной, что под неё создают отдельный фонд.

Как это применить, если платишь за токены из России, где часть корпоративных дашбордов вендоров недоступна напрямую, - в следующем разделе.

У российской команды к общему «налогу на токены» добавляется своя специфика. Прямая оплата картой недоступна - Visa и Mastercard не работают с зарубежными вендорами. Поверх роста объёма токенов ложится курсовая волатильность рубля. А корпоративные инструменты контроля - Anthropic Admin API, интеграции с Datadog и CloudZero - часто недоступны напрямую. Всё это делает самостоятельный токен-трекинг (роутинг, кэш, лимиты) даже важнее, чем для команд с прямым доступом к вендорским дашбордам.

Прежде чем считать в рублях, вот база - мировые цены топ-моделей в долларах за 1M токенов на 2026-07-11 (официальные тарифы вендоров). Именно на этот разброс и опирается роутинг:

Официальные тарифы Anthropic, OpenAI, Google, DeepSeek, Alibaba Cloud, проверено на 2026-07-11. Разброс между флагманом и бюджетной моделью - десятки раз, на нём и строится роутинг.

Первое, что упрощает арифметику, - единый счёт за задачу. Когда агент с ИИ ходит к пяти разным моделям через пять SDK и пять биллингов в долларах, посчитать реальную стоимость одной задачи почти невозможно: надо сводить пять валютных выписок. Когда все модели живут на одном рублёвом балансе, «налог на токены» виден целиком в одном месте. Цены в рублях 1:1 с официалом, без наценки; реселлеры на том же обычно берут +15-25% сверху. Вот те же модели в рублях за 1000 токенов (вход/выход):

Цены в рублях 1:1 с официальными тарифами вендоров, без наценки - через provod.ai. Реселлеры обычно добавляют 15-25% сверху. Проверено на 2026-07-11.

Посмотри на разброс. DeepSeek V4 Flash на входе дешевле Claude Opus 4.8 примерно в 35 раз. Вот почему роутинг из прошлого раздела экономит вживую: рутинные шаги агента на DeepSeek, сложные - на Opus, и счёт за input падает в разы. Единый баланс это позволяет одной сменой имени модели в запросе, без переключения провайдеров.

Как это выглядит в коде. Смена одного base_url переводит агента на единый API, совместимый с OpenAI-SDK:

Для Anthropic-совместимых инструментов (Claude Code, тулзы на SDK Anthropic) меняется base_url и ключ - код агента переписывать не надо.

Практический план для РФ-команды выходит такой. Первое - поставь хард-лимит и алерт на баланс, это страховка от «$6000 за ночь». Второе - настрой роутинг: посчитай, какие шаги агента реально требуют флагмана, остальное отправь на дешёвую модель. Третье - включи prompt caching на стабильный системный промпт. Четвёртое - считай стоимость задачи в рублях с одного баланса, чтобы не сводить пять валютных выписок вручную. Пятое - держи дешёвую или открытую модель (DeepSeek, Qwen) как запасной вариант на случай скачка цен или курса.

Модели вроде Claude (ИИ агент клод часто строят именно на нём за качество рассуждений) и Qwen (ИИ агент квен берут за дешевизну и открытость) доступны из России с одного баланса - удобно ровно для стратегии роутинга, когда сложное считает один, а рутину другой. Как создать ИИ-агента, который не разоряет на токенах, - это в первую очередь про архитектуру: кэш, роутинг, лимиты. Доступ - лишь фундамент под неё.

Что такое ИИ-агент простыми словами? ИИ-агент - это программа на базе языковой модели, которая получает цель и сама её выполняет: бьёт на шаги, вызывает инструменты (поиск, чтение файлов, запуск кода), смотрит на результат и решает следующий шаг. В отличие от чата, где один вопрос даёт один ответ, агент крутит цикл из десятков вызовов модели. Отсюда и весь «налог на токены»: каждый шаг оплачивается отдельно. Работает как стажёр с доступом к терминалу - самостоятельно, но за каждое действие платишь.

Сколько токенов тратит ИИ-агент против чата? По оценке Gartner (25 марта 2026), агент с ИИ тратит в 5-30 раз больше токенов на задачу, чем стандартный чат-бот. Anthropic на собственных замерах даёт 4× для одиночного агента и 15× для мульти-агента. Авторская лестница Vamsi Talks Tech доходит до 500× для тяжёлого мульти-агента, но это оценка сверху, а не бенчмарк. Академический пик - агентный кодинг потребляет до 1000× токенов обычного код-чата (Stanford / Microsoft Research). Разброс большой, но вектор один: агент кратно дороже чата.

Как снизить расход токенов ИИ-агента? Шесть рычагов с измеримым эффектом: prompt caching (-90% на кэш-хиты), роутинг моделей (-60-90%), RAG вместо полного контекста (-80-85%), компакция контекста (-40-60%), batch API (-50%), контроль длины output (-10-40%). Начинай с двух: кэш на стабильный системный промпт и роутинг дешёвой модели на рутинные шаги. И до всякой оптимизации поставь хард-лимит с алертом - он страхует от разовых катастроф вроде счёта на $6000 за ночь.

Правда ли агент с ИИ дороже обычного чата? Да, кратно дороже - и причина в механике. Каждый вызов LLM API не хранит состояние, поэтому агент на каждом шаге заново шлёт модели весь накопленный контекст: системный промпт, историю, все прошлые результаты. По аудиту LeanOps, этот пере-отправляемый контекст - 62% счёта. Чем длиннее сессия агента, тем круче кривая расхода: 30× к чату на 50 шагах, 100× на 200. Токен при этом дешевеет, но объём растёт быстрее, чем падает цена, - поэтому общий счёт растёт.

Как создать ИИ-агента, который не разоряет на токенах? Начни с архитектуры расхода - лимиты, роутинг и кэш идут раньше любых фич. Первое - хард-лимит и алерт на бюджет. Второе - роутинг: флагман только на сложные шаги, дешёвая модель на рутину. Третье - prompt caching на переиспользуемый контекст. Четвёртое - RAG вместо дампа всего документа. Пятое - короткий системный промпт, он умножается на число шагов. Для доступа из России ко всем моделям с одного рублёвого баланса и единого счёта за задачу - агрегатор нейросетей provod.ai: Claude, GPT, Gemini, DeepSeek и Qwen через единый API, оплата в рублях, без VPN. Саму архитектуру агента строишь ты, но считать «налог на токены» на одном балансе проще.

Если строишь агентов - вот конкретный следующий шаг, не откладывая. Открой биллинг своего самого активного агента и посчитай, сколько входных токенов он читает за одну сессию (не сколько задач решил - именно объём входа). Скорее всего, ты удивишься: большая часть - это пере-отправленный контекст, за который ты платишь по новой на каждом шаге. Потом поставь хард-лимит с алертом на 75% бюджета - это страховка от «$6000 за ночь». И только затем включай кэш и роутинг. Порядок важен: сначала потолок, потом оптимизация.

Проверь любую модель из этой статьи за пять минут: на provod.ai все флагманы - Claude, GPT, Gemini, DeepSeek, Qwen - в одном чате и через единый API, оплата в рублях с карты РФ, для юрлиц - договор и закрывающие. Без VPN, без наценки. Удобно ровно для роутинга: сложное считает один агент, рутину - другой, и всё с одного баланса.

Полная картина по доступу к нейросетям из России - за один заход. provod.ai: все топовые модели в одном чате и через единый API, оплата в рублях, единый счёт за задачу вместо пяти валютных биллингов.

Один OpenAI-совместимый endpoint ко всем флагманам: OpenAI (GPT-5.5, GPT-5.4), Anthropic (Claude Opus 4.8, Sonnet 4.6), Google (Gemini 3.1 Pro, 3.5 Flash), DeepSeek V4 Pro, Qwen 3.6 Plus.

Цены 1-в-1 с провайдером по курсу ЦБ— без наценки на токены. Оплата в рублях по договору, полный пакет закрывающих документов (договор-оферта, счёт, акт, счёт-фактура, УПД 5.03 через ЭДО). Без VPN — легальный B2B-сервис в России.

Если статья была полезной— попробуйте provod.ai: главная страница · каталог моделей · документация