SuperAPI AI 工具集

context-degradation

智能体与模型

查看项目

更新于 10-16 06:02

技能介绍

该技能名为 context-degradation,主题是上下文退化模式(Context Degradation Patterns),用于诊断和缓解大语言模型在上下文长度增加时出现的可预测性能故障。其核心观点是:退化不是二值状态,而是一个连续谱,会持续影响模型的注意力与准确性。

用途 当智能体在长对话中表现意外下降时;当调试错误或无关输出(即“迷失在中间”,Lost-in-Middle)时;当设计需要处理超大上下文(1M+ tokens)的系统时;以及当评估上下文工程架构决策时,可启用该技能。

核心概念

  1. “迷失在中间”现象:模型呈现 U 形注意力曲线,开头和结尾的信息能被准确记住,而埋在中间的信息召回率会下降 10%–40%。
  2. 退化类型:
  • 上下文投毒(Context Poisoning):由先前的错误或幻觉引起,症状是错误信念的反馈循环。
  • 上下文干扰(Context Distraction):无关信息过多,模型忽略其基础训练。
  • 上下文混淆(Context Confusion):一个窗口内任务过多,不同来源的需求被混合。
  • 上下文冲突(Context Clash):信息互相矛盾,逻辑推理脱轨。
  1. 按模型的阈值参考:Gemini 3 Pro 约 500K tokens 开始退化、约 800K tokens 严重退化;Gemini 3 Flash 约 300K / 600K;GPT-5.2 约 64K / 200K。

使用方式(Gemini Elite Core 中的实现) 采用“四个桶”(Four-Bucket)方法:

  • Write(写入):把上下文保存到窗口之外,例如文件、草稿板。
  • Select(选择):选择性检索(RAG、过滤),排除噪声。
  • Compress(压缩):摘要与观察掩码(Observation Masking)。
  • Isolate(隔离):把任务拆分给拥有干净上下文窗口的子智能体。

Lost-in-Middle 缓解模式 把关键信息移动到上下文的边缘位置,例如:开头放“关键信息/当前任务”(高注意力),中间放“支撑数据/长历史”(低注意力),结尾放“最终规则/输出格式”(高注意力)。

适用场景与限制 适用:长会话智能体性能诊断、长上下文系统设计、上下文工程架构评估。 限制:该技能自身说明“脆弱性为中等”,因为确定精确退化点需要实证测试;恢复策略(截断 vs 摘要)的实现自由度较高。文中还提到内部参考 references/patterns.md(关于注意力分布与恢复的技术参考)。其余如具体收费、平台支持等事实,资料中暂未提供。