用途
本技能帮助开发者识别、诊断和缓解智能体系统中因上下文增长而出现的性能退化问题。适用于长对话中智能体性能意外下降、调试错误或无关输出、设计可靠处理大上下文的系统、评估生产环境的上下文工程选择、研究“中间丢失”现象以及分析上下文相关故障等场景。
主要能力
技能系统性地描述了多种上下文退化模式：
- 中间丢失现象：模型对上下文开头和结尾的信息注意力可靠，而中间信息召回准确率降低10-40%。原因包括注意力汇（attention sink）和注意力预算摊薄。
- 上下文污染：错误、幻觉或过时信息进入上下文后通过反复引用而复合放大。来源包括工具输出错误、检索文档不准确、模型生成的中间摘要引入幻觉。检测信号包括输出质量下降、工具调用错位、纠正后仍持续幻觉。恢复方法包括截断至污染点之前、标记污染要求重新评估、或从干净上下文重启并保留已验证信息。
- 上下文分心：上下文过长导致模型过度关注提供的信息而牺牲训练知识。即使单个无关文档也会显著降低性能，且效果呈阶跃函数而非与噪声量成比例。缓解策略包括相关性过滤、命名空间组织、按需工具调用替代常驻上下文。
- 上下文混淆：无关信息影响模型行为，导致回应错误方面、调用不匹配工具或混合多来源要求。架构方案包括显式任务分段、清晰任务上下文转换、状态管理隔离不同目标。
- 上下文冲突：多个正确但矛盾的信息同时存在，来源包括多源检索、版本冲突、视角冲突。解决方法包括显式冲突标记、优先级规则、版本过滤。
技能还提供实证基准与阈值，如RULER基准发现仅50%声称32K+上下文的模型在32K令牌时保持满意性能；给出GPT-5.2、Claude Opus 4.5、Claude Sonnet 4.5、Gemini 3 Pro/Flash等模型的退化起始与严重退化阈值表，以及各模型在上下文压力下的不同失败模式。此外包含反直觉发现：打乱的干草堆优于连贯干草堆、单个干扰项影响巨大、针-问题相似度与退化速度相关。还讨论了更大上下文可能有害的性能退化曲线、成本指数增长和认知负荷瓶颈。
使用方式
技能建议采用“四桶法”应对退化：写入（将上下文保存到外部存储）、选择（检索过滤相关上下文）、压缩（摘要、抽象、观察掩码减少令牌）、隔离（子智能体或会话分割上下文）。通过即时上下文加载、观察掩码、子智能体架构、压缩触发器等架构模式实现。指南包括监控上下文长度与性能相关性、关键信息置于首尾、退化前触发压缩、验证检索文档、版本化防止冲突、任务分段防止混淆、渐进测试寻找退化阈值。
适用场景
适用于长对话智能体调试、生产系统上下文工程设计、多智能体系统上下文隔离、长文档处理、以及需要可靠处理大上下文的任何智能体应用。
限制
资料未提供具体安装命令、代码示例之外的实现细节、收费信息或平台要求。部分模型基准数据以资料所载为准，实际表现可能因任务和配置而异。技能需在理解上下文基础概念后学习，并与其他相关技能（上下文优化、多智能体模式、评估）配合使用。