SuperAPI AI 工具集

context-budget

通用与其它

查看项目

更新于 10-16 01:18

技能介绍

用途:在会话开始前规划上下文窗口的“花费”。上下文窗口是每轮都会重新消耗的预算,常驻内容会随每次调用重复计费,因此该技能先做分配再开始会话。

主要能力:产出四类结果。一是分配方案,把每个候选上下文归入加载、链接、按需获取或排除,并给出理由;二是前缀布局,稳定内容在前、易变内容在后,以保持提供方缓存命中;三是每轮成本形态,说明会话开始、中段和接近窗口上限时的成本(可用 token-cost 测量);四是预先决定的淘汰规则,规定窗口填满时按什么顺序摘要、压缩或丢弃。

必要输入:工作流(会话做什么、通常多少轮、涉及哪些文件/API/文档)、候选上下文清单、易变性映射(哪些内容会话中会变、哪些不变)、窗口大小与定价(模型上下文大小,以及提供方是否对缓存输入单独定价,需核实当前条款)。

核心规则:常驻内容按“每轮是否有用”而非“是否有用”判断;参考资料用索引链接而非整体加载(索引约为其覆盖范围的 3%);布局即价格决策,缓存前缀定价通常约为新输入的 10%,但要求前缀逐字节一致,因此时间戳、增长的历史、被编辑的文件等易变内容必须放在稳定内容之后;压缩发生在边界处,工具输出和文件先经 context-crusher 再进入;淘汰按计划而非慌乱进行,通常顺序为可重新获取的压缩工具输出、已解决子任务历史、过期文件快照,指令和决策日志永不淘汰。

输出格式:包含分配表、前缀布局、每轮成本形态和淘汰规则,并附质量检查与反模式。

限制:资料未提供具体安装方式、平台支持、收费与价格信息;缓存定价比例需按提供方当前条款核实。