SuperAPI AI 工具集

context-compressor

智能体与模型

查看项目

更新于 10-15 16:49

技能介绍

用途:在为一个任务组装智能体上下文时,解决“哪些内容该保留、哪些该删、哪些该压缩”的问题,让有限的上下文窗口承载最多的决策相关信息。

主要能力:按信息论与上下文工程思路,将上下文视为有限信道。先计算预算:窗口减去系统提示词、工具、历史与输出预留后得到可用空间,再按可用量与候选上下文的比例分为充裕(大于3倍)、舒适(1.5至3倍)、紧张(0.5至1.5倍)、匮乏(小于0.5倍)四档,分别采取全保留、去明显冗余、主动压缩、激进分诊策略。随后对每个候选片段从三维度打分:自信息量(0至4,衡量该片段对减少智能体不确定性的作用)、冗余度(唯一、部分重叠、大部分冗余、完全冗余)、token 效率(密集、正常、臃肿、浪费)。据此给出决策规则,例如自信息 0 必删、自信息 4 必全保真保留、自信息 1 且大部分或完全冗余则删、自信息 2至3 且臃肿则压缩等,并输出为含片段、token 数、自信息、冗余度、效率、动作的表格。压缩分无损与有损两类:无损包括电报式改写、结构抽取、引用消除、去重合并;有损包括降低保真度、缩小范围、提高抽象层级、概率剪枝,且要求记录有损损失,写明保留内容、丢失内容与风险。最后按自信息降序组装(关键内容在前),并校验是否超预算、仅凭该上下文能否完成任务、所有自信息 4 的片段是否全保真保留。

使用方式与限制:资料未提供具体安装命令、代码或调用接口,暂未提供。使用中强调没有具体任务就不压缩,须针对特定任务审计;约20%的上下文承载约80%的信号;压缩会牺牲灵活性,需为多轮对话留余地;拿不准时保留,因为错误输出的代价高于多花 token;条件允许时用完整上下文与压缩上下文的输出做经验对比。