SuperAPI AI 工具集

token-optimization

编程与开发

查看项目

更新于 10-16 05:01

技能介绍

用途:当遇到上下文超限、账单意外、循环缓慢,或需要选择更便宜模型、拆分任务、使用提示缓存与压缩时启用。不适用于分词器库、认证/支付 token 或 UI 设计 token,也不处理单纯定价计算。

主要能力:按五类桶估算 token 去向(系统提示、工具定义、对话历史、工具结果、当前消息与输出),给出主导桶判断;提供英文、代码、CJK 的启发式估算方法,并建议用 SDK 的 count_tokens 获取精确值。

使用方式:按顺序应用策略,达标即停。1)测量 token 去向;2)让静态前缀可缓存,稳定内容前置、变化内容后置,用 cache_control 标记断点,保持前缀字节一致,避免原地编辑历史;3)精简常驻上下文,如 CLAUDE.md、AGENTS.md、记忆索引,控制预算并审计 MCP 工具服务器;4)分层压缩对话历史,保留近期原文、旧轮摘要,不裁剪系统指令与安全头;5)用观察引用遮蔽冗长工具输出;6)按任务复杂度路由模型并保留回退链;7)减少循环开销,批量并行工具调用、设迭代上限;8)裁剪输出,提供深度层级、停止序列、限制思考预算;9)用相同桶重新测量并报告差值。

适用场景:长会话、重复调用、工具输出庞大、多模型协作的智能体运行时,如 Claude Code、Codex CLI、Cursor、Gemini CLI、Copilot CLI,并给出各宿主对应命令,如 /clear、/compact、/model、/cost 等。

限制:估算精度约 ±15%;缓存机制、TTL、最小块大小因提供商而异;部分宿主不暴露某些功能,标记为 n/a;预期压缩 50–70%、遮蔽 60–80%、缓存命中率 ≥70% 仅为校准参考,非保证。