用途:在上下文窗口或 token 成本受限时提升有效容量,不依赖更大模型或更长窗口,但需配合度量纪律。触发条件包括上下文预算或 token 成本限制任务复杂度、可用观察掩码以可检索引用替代冗长工具输出、需提升前缀或 KV 缓存命中率、检索范围可减少无关上下文、需跨智能体分区扩展容量、需要为掩码/压缩/分区设置预算触发阈值。相邻职责不在此技能:注意力和上下文窗口原理归 context-fundamentals;诊断 lost-in-middle、poisoning、distraction、confusion、clash 归 context-degradation;长对话交接摘要归 context-compression;大输出、计划或日志存为文件归 filesystem-context;模型自行重写上下文及重预填成本归 self-managed-context。
主要能力与优先级:1) KV 缓存优化,重排并稳定提示结构以复用缓存的 Key/Value 张量,风险低、可立即省成本降延迟;2) 观察掩码,在工具输出完成用途后用紧凑引用替代,原内容仍可检索;3) 压缩,上下文利用率超 70% 时摘要并重新初始化,属有损,应在掩码之后;4) 分区,单窗口无法容纳时拆分至隔离子智能体,估算上下文超窗口 60% 时保留使用。原则是上下文质量优于数量。
使用方式:按预算分配 token 类别并保留 5%–10% 缓冲,用触发式而非周期性优化;提示按系统提示、工具定义、复用模板、对话历史、当前查询的顺序排列以稳定前缀。示例阈值:context_tokens / context_limit > 0.8 时压缩;长观察转为 [Obs:{ref_id} elided. Key: {summary}];预算如 tool_outputs 35%、message_history 30%、retrieved_documents 20%、reserved_buffer 15%。目标:压缩降 50%–70% token、质量损失小于 5%;掩码降 60%–80%、影响小于 2%;缓存命中率 70%+,成本降 50%+、延迟降 40%+;分区在计入协调开销后净节省,通常需 3 个以上子任务。
限制与注意:前缀中任何空白或时间戳变化都会使缓存失效;压缩应在 70%–80% 触发,避免在 85% 以上进行;调试期间不要掩码错误输出;分区开销可能超过收益;部署变更会致缓存未命中成本临时上升;压缩后摘要可能携带过时状态。不提供具体价格与平台信息。