SuperAPI AI 工具集

context-degradation

智能体与模型

查看项目

更新于 10-15 21:40

技能介绍

用途:该技能面向智能体失败的诊断与上下文相关问题的排查,帮助理解上下文退化现象并设计更具韧性的系统。

主要能力:归纳并解释若干退化模式。迷失在中间:开头与结尾信息获得可靠注意力,中间内容召回率显著下降。上下文污染:错误一旦进入上下文会因反复引用而累积,来源包括带错误的工具输出、含错误信息的检索文档、带幻觉的模型摘要;症状包括工具调用参数错误、难以撤销的策略、纠正后仍持续的幻觉;恢复方式包括截断到污染点之前、显式标注污染并重新评估、以干净上下文重启。上下文分心:即使单个无关文档也会降低表现,模型必须关注全部内容,无法跳过无关部分;缓解方式包括加载前按相关性过滤、使用命名空间组织、通过工具而非上下文访问。上下文混淆:任务混杂导致回答针对错误方面。上下文冲突:信息互相矛盾使推理偏离。

退化阈值(资料给出):GPT-5.2 约 64K tokens 开始退化、约 200K 严重退化;Claude Opus 4.5 约 100K / 约 180K;Claude Sonnet 4.5 约 80K / 约 150K;Gemini 3 Pro 约 500K / 约 800K。

使用方式:四桶法包括写入(把上下文存到窗口之外)、选择(拉入相关上下文)、压缩(减少 tokens 并保留信息)、隔离(拆分到子智能体)。

反直觉发现:打乱的干草堆表现优于连贯内容;单个干扰项影响巨大,呈阶跃式而非比例式;问题与针的相似度有影响,不相似内容退化更快。

更大上下文的代价:超过阈值后性能非线性下降;成本随长度指数增长;无论规模多大,认知瓶颈依然存在。

最佳实践:监测上下文长度与性能的相关性;把关键信息放在开头或结尾;在退化前实现压缩触发;校验检索文档的准确性;用版本控制避免过时信息冲突;切分任务以防混淆;为优雅降级而设计;用逐步增大的上下文进行测试。

限制:资料未提供具体安装命令、运行环境或接口细节,暂未提供。