用途:控制智能体系统的成本与上下文占用,核心原则是上下文窗口中的每个 token 都应物有所值——影响决策的保留,只占空间不影响输出的裁剪。
主要能力:按周期记录输入/输出 token、成本与时间戳;审计上下文窗口各组成部分(系统提示、记忆、工具 schema、技能流程、对话历史、动态内容)并排序;设置软上限、硬上限与单周期上限并定义强制执行动作;接近上限时按优先级紧急裁剪并保留墓碑摘要;通过注册表元数据先路由再加载完整技能;依据成本数据设计周期间隔;最后验证各项控制是否生效。
使用方式:先建立每周期成本追踪,日志存于上下文之外(JSON lines、CSV 或数据库);再审计上下文并生成预算表;随后配置 token_budget(soft_limit_usd、hard_limit_usd、per_cycle_cap_usd、soft_limit_pct、hard_limit_pct、enforcement、alert_channel);触发软上限时裁剪低价值上下文,触发硬上限时立即停止并通知人工;技能加载采用两阶段模式,先读注册表条目再加载 SKILL.md;周期间隔按被监控系统的刷新率设定。
适用场景:长期运行的智能体循环(心跳、轮询、自主工作流)、上下文窗口不可预测增长、API 成本超出基线、设计新工作流时预置成本护栏、成本事故后复盘、系统提示或记忆文件过大时。
限制:资料未提供具体模型定价、平台支持范围或安装命令;若 API 不返回用量元数据,只能用账单估算平均值;字符数除以 4(英文)或除以 3(结构化数据)仅为粗略近似;若裁剪后仍超软上限,需人工介入调整间隔、范围或拆分工作流。