SKILL.state — быстрый трюк или лишь модный лайфхак для LLM‑агентов?

В статье на Habr авторы показали, что сокращение истории запросов в кодинг‑агентах может снизить нагрузку на модель. По их бенчмаркам с OpenCode и Codex уменьшение объёма истории привело к ускорению работы до 30 % при почти неизменной точности.

Для меня главное — насколько эти цифры сохраняются в реальном бесплатном стеке. На бесплатных планах часто ограничены не только вычислительные ресурсы, но и возможности кэшировать состояние модели. Уменьшение истории запросов требует более тщательной ручной синхронизации контекста, иначе возрастает риск «потери» важной информации. Я бы не стал полагаться на такой трюк как на универсальное решение, а использовал бы его лишь в том случае, когда агент работает в узком, предсказуемом сценарии.

В итоге, SKILL.state выглядит интересным экспериментом, но в практике экономия будет ограниченной и потребует дополнительных усилий по настройке.