SuperAPI AI 工具集

context-tax-audit

智能体与模型

查看项目

更新于 10-29 13:28

技能介绍

用途

Context Tax Audit 用于审计 AI 代理每次请求所携带的全部上下文内容,而不仅是用户消息。系统提示、环境信息、技能列表、工具定义、每轮上下文块和提醒等都构成“上下文税”。该审计帮助识别哪些内容值得保留、哪些可以删除,以及哪些内容的位置安排会破坏提示缓存。

主要能力

  • 盘点真实请求:通过调试日志、代理或组装请求的代码,捕获代理实际发送的一次请求,列出除用户消息外的每个部分,并记录其所在位置、变更频率和 token 数(使用分词器计数并注明分词器,计数视为相对值)。建议分别查看新会话首次请求和后续轮次,因为两者常有差异。
  • 必要性判断:对每个部分写一句话“没有它,模型会……”。若写不出这句话,该部分就是可删除候选。
  • 提示缓存位置分析:缓存按前缀匹配,一个字节变化会使之后内容全部失效。位于前端且每次请求都变化的内容代价最高,应后移;写入历史后不再修改的内容只付一次费并持续可缓存;仅附加到当前请求的内容从不缓存、每次全价付费,需控制其频率。
  • 检查表执行:覆盖盘点、必要性、频率、精度、位置、历史记录、请求级提醒、恢复路径、模式一致性和测量等维度。
  • 输出结果:生成盘点表、应删除/移动/降低频率/降低精度的部分清单(每项附原因),以及验证改进效果的度量项。

使用方式

  1. 捕获一次真实请求并完成盘点。
  2. 对每个部分做必要性判断。
  3. 分析提示缓存位置,遵循“稳定在前、易变在后”等规则。
  4. 逐项运行检查表。
  5. 输出盘点表与调整清单,并测量缓存命中率、每轮成本和任务质量。

仓库提供纯文本检查表:checklists/context-tax.md。

适用场景

适用于需要优化 AI 代理请求上下文成本、提升提示缓存命中率、审查系统提示与工具定义位置、控制提醒频率、以及在压缩、会话恢复或子代理场景中确保关键内容不丢失的工程实践。

限制

资料未提供具体支持的平台、计费方式、自动化程度或代码集成方式,这些信息暂未提供。该技能以检查表和人工审计流程为主,token 计数需借助分词器,结果作为相对参考。