Сколько стоит агент: квадратичный рост, кэш и где реально экономить

Главный тезис: «агент разорил» — почти никогда не про тариф. Модель не помнит: каждый следующий ход стоит дороже предыдущего, потому что ей заново шлют всю переписку. Отсюда стоимость прогона растёт квадратично по числу шагов, и редкий прогон на 40 итераций из №1 дорог не тем, что модель жадная, а тем, что площадь накопленного контекста ушла в квадрат. Рычаги при этом разной природы: дешёвая модель — линейный множитель к кривой, а сколько вы тащите в контекст — сама кривая. На коротких задачах тариф решает больше; на длинных — структура. Перепутать рычаги местами дороже, чем не выбрать модель подешевле.

Прайсы и множители кэша ниже — снимок на 12.11.2026 из открытых страниц провайдеров и вторичных разборов (Anthropic cache read 0.1×/write 1.25×–2×; OpenAI cached input 10% на новых моделях, 5% на топовом фламане; Gemini implicit cache без платы за хранение). Эти цифры двигаются каждый релиз — в день публикации сверяйте по официальной price-странице провайдера, а не по этому тексту. Абсолютные суммы ниже иллюстрируют форму кривой, а не действующие тарифы.


Часть I. Почему квадрат, а не линия

Классический HTTP-клиент: вызов стоит столько же, сколько следующий вызов. Цена линейна по числу запросов, и потому «сколько запросов» и «сколько стоит» — почти синонимы. Агент ломает эту интуицию.

Ядро: трансформер не помнит прошлое между вызовами. Память диалога — это то, что вы кладёте в массив messages и отправляете целиком каждый раз. Значит на ходе k:

вход(k) ≈ системный префикс (правила + описания инструментов) + Σ предыдущих ходов

Площадь под этой суммой — сумма арифметической прогрессии, то есть квадрат по числу ходов. Посчитаю честно на числах (прайсы условные, форма кривой настоящая; sys = системный промпт + определения инструментов, ход = прирост контекста за шаг):

Ходов«Плоский» агент (без накопления)Квадратичный агентКвадрат/плоский
1$0.0405$0.0405×1.00
5$0.2025$0.2235×1.10
10$0.4050$0.4995×1.23
20$0.8100$1.2090×1.49
40$1.6200$3.2580×2.01

Вход на отдельных ходах (там, где живёт квадрат):

ход  1: 10 000 токенов входа
ход 10: 16 300     (+63% против первого)
ход 40: 37 300     (+273% против первого)

Тезис серии №1 «сбой агента не бросает исключений, он просто стоит денег» здесь получает арифметику: прогон на 40 шагах дорог не тем, что шагов много, а тем, что каждый следующий шаг дороже. Ровно этот хвост и не увидит adoption-дашборд в №3: Copilot даёт avg_tokens_per_request — усреднение, а квадрат прячется именно в распределении по ходам, не в среднем.

Граница честности. Квадратичность — это про накопление контекста. Если ваш агент «плоский» (каждый ход — независимый короткий запрос без истории, RAG-поиск, классификатор), он линеен, и квадрат к нему не относится. Рычаг Части III актуален там, где есть многошаговый цикл с историей. Писать «агент всегда квадратичен» — столько же перегиб, сколько считать «HTTP 200 = успех».


Часть II. Кэш: и входной токен, и ловушка учёта

Единственный рычаг, который бьёт по самой квадратичной части, — prompt caching: стабильный префикс (системный промпт, определения инструментов, уже отправленная история) провайдер держит в кэше, и повторное чтение стоит в разы дешевле, чем повторная отправка.

Множители (снимок 12.11.2026 — сверять по официальной price-странице)

ПровайдерCache readCache writeПримечание
Anthropic0.1× базового входа (−90%)1.25× (TTL 5 мин) / 2× (TTL 1 ч)min кэшируемый префикс — сотни токенов; до 4 breakpoints
OpenAI≈10% стандартного входа на новых моделях; ≈5% на флагманеавто (implicit), отдельной платы за запись нетсрабатывает по совпадению префикса запроса
Geminiimplicit — нет платы за хранение; явный — платное хранениетокены на создание кэша биллятся как обычный входявный кэш (explicit) выгоден при повторном обращении к одному префиксу

Что это даёт на длинном агенте (те же условные прайсы)

При 85% кэшируемого префикса (read 0.1×, свежий прирост хода — write 1.25×):

ХодовБез кэшаС кэшемЭкономия
10$0.4995$0.197760%
20$1.2090$0.444863%
40$3.2580$1.086967%

Экономия растёт с длиной задачи — потому что кэш вычитает именно накопленный (квадратичный) хвост. Это и есть причина, почему кэш — рычаг №1 для агента, а не для одиночного запроса.

Ловушка, на которой ломаются дашборды (прямая связка с №2 и №3)

Кэш упрятан в два разных смысла «входных токенов», и серия уже предупреждала:

  • По конвенции №2 gen_ai.usage.input_tokens = все входные токены запроса, включая те, что прочитаны из кэша.
  • У Claude Code (№3) claude_code.token.usage с type=input — это вход без кэша; кэш идёт отдельными cacheRead/cacheCreation. Чтобы соотнести с OTel-овым «всех входных», надо сложить input + cacheRead + cacheCreation.
# псевдо-SQL кошелька: НЕ путать эти три
input_all      = input_tokens + cache_read_tokens + cache_creation_tokens   # для сравнения с gen_ai.usage.input_tokens
input_billed   = input_tokens + cache_creation_tokens                        # что реально бьётся по полной цене
# cache_read_tokens = то, что уже дешевле в 10 раз; вычитать его из «расхода» — ошибка на ~90% префикса

Классический дефект: дашборд считает «вход = type=input», не видит cacheRead, и показывает расход ниже реального (недооценка на весь кэшируемый префикс) — либо наоборот, биллит read по полной цене и показывает расход выше. Оба — прямое следствие того, что «вход» не одно число. Держите это рядом с правилом №2: привязывайтесь к схеме (три категории токенов), а не к имени input.


Часть III. Рычаги разной природы: тариф против площади

Здесь разбираем главное заблуждение: «хочу дешевле → ищу модель подешевле». Все четыре рычага называют «экономия», но действуют на разное место формулы.

РычагНа что действуетХарактер эффектаКогда выигрывает
Дешёвая модель / роутцена за токен (p_in, p_out)линейный множитель (одинаков на всех ходах)короткая задача, где история почти не растёт
Обрезка окна контекстаплощадь кривой (per_turn ↓)снижает квадратичную частьдлинный цикл, много истории
Prompt cachingцена повторяемого префиксавычитает накопленный хвостлюбой многошаговый агент
max_output-лимитверхняя граница выхода за ходаварийный потолокзацикленный/раздувающийся прогон

Считано на условных прайсах при N=20 (база $1.2090):

база                       : $1.2090
модель x5 дешевле (тариф)  : $0.2418   (−80%)  — бьёт по всем ходам одинаково
контекст вдвое (пер_turn 350): $0.9045   (−25%)  — эффект РАСТЁТ с N
кэш (см. Часть II)          : $0.4448   (−63%)  — вычитает квадратичный хвост

Честный вывод, а не догма: на короткой задаче тариф решает больше (x5 по модели — это −80% сразу), но на длинном цикле история — это и есть квадрат, и без резания контекста + кэша вы платите за переотправку одного и того же. Тезис «главный рычаг — не выбор модели» верен ровно в области длинных многошаговых прогонов — то есть там, где живут агенты из №1, а не одиночные вызовы. В обратном случае (короткий RAG/классификатор) дешёвая модель — лучший рычаг, и скрывать это значило бы подменить одну догму другой.

Практический порядок действий: сначала кэш (бесплатный выигрыш по уже написанному промпту, если провайдер даёт implicit), потом обрезка истории (выбрасывать/резюмировать старые ходы — та «compaction» из событий Claude Code в №3), роут дешёвой моделью на черновик (plan-шаги / классификацию), дорогая модель только на финальный ответ, max_output — как аварийный потолок.

Где роутинг вписывается в серию. «Дешёвая модель на черновик» — это ровно то, почему наблюдательный слой автора держит несколько моделей и умеет пинговать их здоровье (линия приватности и self-host — «Локальные модели», тренажёр — «Песочница»). Локальная дешёвая модель на промежуточных шагах и облачная дорогая на финале — та же экономия площади, только с другим тарифом за вход.


Часть IV. Учёт на PHP: поштучно, по алфавиту, и со своим кошельком

Экономику нельзя оптимизировать, если она не посчитана. В живом стеке автора учёт расхода — это таблица-кошелёк, а не «посмотрел биллинг провайдера». Обезличенные паттерны, которые в №6 собираются в слой:

1. Строка кошелька на сессию/аккаунт, input/output поштучно. Схема вида:

-- {prefix}qwen_token_usage
-- session_id ('user_N' для аккаунта, спец-ключ для фона), tokens_used,
-- message_count, purchased_tokens/purchased_used (докупленный объём), last/first_activity

Потолок — опция (..._reg_limit для зарегистрированных, ..._unreg_limit для гостей), остаток = лимит − used, отдельно учитывается докупленное. Это ровно то, чего нет у Copilot (№3 — ai_credits_used как число за день, а не живой кошелёк по сессиям).

2. Фоновый процесс — свой кошелёк, не общий. Самый прожитый урок: если фоновая генерация (дайджест, автопилот) списывает в тот же кошелёк, что и чат, то активность в чате выжигает бюджет фона и наоборот — гейт отвечает «токенов исчерпан», хотя RSS и сеть в порядке. Чинится отдельной строкой (session_id='..._autopilot', user_id=0) со своим потолком и своим периодом сброса. Второе следствие — UPDATE ... WHERE при сбросе периода: сброс без WHERE обнулял бюджет всем аккаунтам разом. Это та же дисциплина «один ключ = одна строка», что Части II про «не путать категории токенов», только на уровне БД.

3. Оценка длины — по алфавиту, а не «символы/4». Пресет-гейт «хватит ли баланса на этот ход» надо считать до отправки. Наивный strlen/4 врёт на кириллице (а аудитория — русскоязычная). Живая формула автора:

// оценка токенов: кириллица дороже на токен, латиница — ближе к 4 символа/токен
$t = ceil( $cyrillic / 1.5 + $latin / 4 );

Держите это как иллюстрацию Части III: вход оценивают до запроса, потому что цена входа — та самая накопленная площадь, и её надо знать заранее, а не после биллинга.

4. max_output как аварийный вентиль. Авторский код задаёт явный потолок на выход (..._MAX_OUT, ~4096) и закладывает, что фактический расход ниже (модель редко выбирает весь лимит). Для экономики агента это единственный рычаг, срабатывающий мгновенно на раздувающемся прогоне, не дожидаясь детектора цикла из №1: ограничили выход — ограничили худший случай цены хода.

Как это связано с наблюдаемостью. Счётчик расхода — метрика, а не лог: это ровно «counter по токенам на категорию», как в «Метрики и мониторинг». Длительность же (TTFT, сколько времени ждёт ход) — механика стриминга из «LLM-зависимость»; здесь мы берём её в разрезе цикла (суммарная длительность ≈ сумма ходов, каждый дороже). Не пересказываем — ссылку держим там.


Инструменты под задачу

  • Оценить расход и найти дорогой хвост. Тот же разбор, что нужен для Части IV: пройти события прогона, посчитать вход по ходам, отличить «квадрат по архитектуре» от «один зацикленный шаг». Роль — авторский разбор логов; обезличенная сборка в №6.

Чек-лист граблей

  1. Считать цену агента линейной. Цена хода растёт с накоплением контекста; сумма по N шагам ~ квадрат. «40 ходов = 40× одного хода» — ошибка, иногда в разы.
  2. «Дорого → беру модель подешевле» как универсальный ответ. Роут — линейный множитель; он мало помогает там, где главная цена — квадратичный хвост (там кэш + рез истории).
  3. Путать два «входа». gen_ai.usage.input_tokens = все входные; Claude type=input — без кэша. Не сложив input+cacheRead+cacheCreation, недооцените вход ровно на кэш (или биллит read по полной цене — переоцените).
  4. Считать cacheRead расходом по полной цене. Это то, что уже в ~10 раз дешевле; включать его в «токены по базовому прайсу» завышает прогноз.
  5. Игнорировать cache-write. Запись кэша стоит 1.25×/2×; на очень коротком переиспользовании (мало повторов префикса) кэш может окупаться не сразу — смотрите на количество повторов, а не ставьте кэш рефлексом.
  6. Не класть max_output как потолок. Без жёсткого лимита выхода один раздувшийся/зацикленный ход стоит непредсказуемо; потолок — единственная мгновенная страховка.
  7. Фоновая генерация в общем кошельке. Дайджест/автопилот списывает туда же, где чат → взаимное выжирание бюджета; нужен отдельный кошелёк с своим периодом.
  8. UPDATE без WHERE при сбросе бюджета. Обнулит лимит всем аккаунтам разом. Сброс периода — строго по ключу строки.
  9. Оценка токенов через strlen/4 для кириллицы. Врёт систематически; кириллица дороже на токен (формула по алфавиту).
  10. Доверять абсолютным суммам из этой статьи. Прайсы и множители двигаются каждый релиз; здесь форма кривой настоящая, числа — снимок. В день публикации переснимайте по официальной price-странице.
  11. Применять «квадрат» к плоскому агенту. RAG-поиск/классификатор без истории линеен; квадрат — только там, где есть многошаговый цикл с накоплением.

👤 Зарегистрируйтесь, чтобы добавить материал в закладки.