SuperAPI AI 工具集

common-context-optimization

通用与其它

查看项目

更新于 10-15 22:13

技能介绍

用途:该技能用于优化智能体的上下文窗口效率,减少延迟,并防止长上下文中的“中间遗忘”问题,适合 token 预算紧张、工具输出庞大或对话轮次较多的场景。

主要能力:

  1. 观察掩码(降噪):识别超过 50 行或 1 KB 的工具输出,先提取关键数据点,再把历史中的原始输出改写为语义摘要占位符,避免日志、JSON 列表等淹没上下文。
  2. 上下文压缩(状态保留):每 10 轮或 8k token 触发一次递归摘要,保留用户目标、当前任务、当前错误与关键决策,丢弃闲聊、中间工具调用和已被修正的假设,并将压缩后的状态写入系统提示或记忆文件。
  3. KV 缓存感知(延迟):保持严格顺序 System -> Tools -> RAG -> User,历史只追加、不在中间插入,以最大化预填充缓存命中。

使用方式:按上述触发条件执行掩码与压缩;具体模式见 references/masking.md,算法见 references/compaction.md,实现示例见对应示例文件。

限制:资料未提供具体安装命令、依赖、平台支持、收费或效果数据;反模式包括直接倾倒原始工具输出、无界增长、在历史中间插入内容。