用途:当智能体会话或代码库超出上下文窗口(如 5M+ token 系统)时,压缩对话历史、实现 compaction、降低 token 用量,并避免智能体“忘记”改过哪些文件。
主要能力:提供三种生产可用策略。锚定迭代摘要适合长会话与文件追踪,维护含会话意图、文件修改、决策、下一步等固定分节的结构化摘要,压缩时只摘要新截断片段并与已有摘要合并,避免整体重生成带来的漂移。不透明压缩适合短会话、重取成本低且追求最大压缩率的场景,压缩率可达 99%+,但不可解释。再生式全量摘要适合需要可读摘要、会话有清晰阶段边界的场景,缺点是反复全量重生成会累积细节丢失。
使用方式:压缩触发点可选固定阈值(70-80% 上下文占用)、滑动窗口(保留最近 N 轮加摘要)、基于重要性、任务边界;编码智能体默认推荐滑动窗口加结构化摘要。摘要须含强制分节,如会话意图、修改文件、决策、当前状态、下一步,并按领域调整。大代码库可用三阶段流程:研究阶段产出结构化分析文档,规划阶段转为实现规格,实现阶段按规格执行。
评估与限制:传统 ROUGE 或嵌入相似度无法反映功能质量,应使用探针式评估,测试回忆、产物、延续、决策四类问题,并从准确性、上下文感知、产物轨迹、完整性、连续性、指令遵循六维打分。注意:切勿压缩工具定义或 schema;压缩摘要可能幻觉出事实;文件路径、提交 SHA、变量名等标识符须原样保留;早期轮次含不可再生的约束,应保护或提取为持久前言;激进压缩率会跨轮次累积损失;代码与散文需不同压缩策略;探针评估可能给出虚假信心。产物轨迹在所有方法中最弱(2.2-2.5/5.0),建议在智能体脚手架中单独维护产物索引或文件状态追踪。