SuperAPI AI 工具集

context-degradation

通用与其它

查看项目

更新于 10-15 22:10

技能介绍

用途:帮助诊断和设计长上下文系统。当智能体在长对话中性能意外下降、输出错误或无关、需要可靠处理大上下文、评估上下文工程方案、调查“中间遗忘”现象或分析上下文相关失败时启用。

主要能力:归纳五类退化模式——中间遗忘(U形注意力,中部信息召回率低10-40%)、上下文污染(错误经反复引用放大)、上下文分心(无关信息挤占注意力)、上下文混淆(无关信息影响行为)、上下文冲突(多条正确信息互相矛盾)。给出检测信号与恢复思路,如截断至污染点前、显式标注冲突、版本过滤。

使用方式:将关键信息放在上下文开头或结尾;加载前做相关性过滤与文档校验;在退化加剧前触发压缩;用子智能体或会话隔离上下文;用版本控制避免过时信息冲突。四类策略为写入(外部存储)、选择(检索过滤)、压缩(摘要与观察掩码)、隔离(拆分上下文)。

适用场景:长对话智能体、多源检索、生产上下文工程评估、模型选型。

限制:资料中的基准数据与模型阈值(如RULER、各模型退化起点)为特定研究结论,实际表现随任务与实现而异;本技能不能替代环境特定验证、测试或专家评审;缺少必要输入、权限或成功标准时应停止并请求澄清。