用途
Context Tax Audit 用于审计 AI 代理每次请求所携带的全部上下文内容,而不仅是用户消息。系统提示、环境信息、技能列表、工具定义、每轮上下文块和提醒等都构成“上下文税”。该审计帮助识别哪些内容值得保留、哪些可以删除,以及哪些内容的位置安排会破坏提示缓存。
主要能力
- 盘点真实请求:通过调试日志、代理或组装请求的代码,捕获代理实际发送的一次请求,列出除用户消息外的每个部分,并记录其所在位置、变更频率和 token 数(使用分词器计数并注明分词器,计数视为相对值)。建议分别查看新会话首次请求和后续轮次,因为两者常有差异。
- 必要性判断:对每个部分写一句话“没有它,模型会……”。若写不出这句话,该部分就是可删除候选。
- 提示缓存位置分析:缓存按前缀匹配,一个字节变化会使之后内容全部失效。位于前端且每次请求都变化的内容代价最高,应后移;写入历史后不再修改的内容只付一次费并持续可缓存;仅附加到当前请求的内容从不缓存、每次全价付费,需控制其频率。
- 检查表执行:覆盖盘点、必要性、频率、精度、位置、历史记录、请求级提醒、恢复路径、模式一致性和测量等维度。
- 输出结果:生成盘点表、应删除/移动/降低频率/降低精度的部分清单(每项附原因),以及验证改进效果的度量项。
使用方式
- 捕获一次真实请求并完成盘点。
- 对每个部分做必要性判断。
- 分析提示缓存位置,遵循“稳定在前、易变在后”等规则。
- 逐项运行检查表。
- 输出盘点表与调整清单,并测量缓存命中率、每轮成本和任务质量。
仓库提供纯文本检查表:checklists/context-tax.md。
适用场景
适用于需要优化 AI 代理请求上下文成本、提升提示缓存命中率、审查系统提示与工具定义位置、控制提醒频率、以及在压缩、会话恢复或子代理场景中确保关键内容不丢失的工程实践。
限制
资料未提供具体支持的平台、计费方式、自动化程度或代码集成方式,这些信息暂未提供。该技能以检查表和人工审计流程为主,token 计数需借助分词器,结果作为相对参考。