用途:在 DAG 执行过程中追踪累计 LLM 成本,并实时做出决策以保持在预算内,包括降级模型、跳过可选节点或提前停止。
主要能力:设置并执行 DAG 执行的成本预算;执行期间实时监控成本;在运行中决定何时降级模型层级;识别哪些节点最昂贵及原因;执行后给出成本分析与优化建议。
预算执行流程:节点执行前检查“已花费 + 预估节点成本”是否在预算内。预算剩余大于 20% 时按计划模型层级执行;低于 20% 时若可能则降级到 Tier 1;超预算时,可选节点直接跳过,非可选节点若有可用人工确认则询问是否继续超预算,否则停止执行并返回部分结果。
预算层级动作:剩余大于 50% 按计划层级执行;20-50% 记录警告并继续;10-20% 将剩余 Tier 2 节点降级为 Tier 1(Haiku);5-10% 将所有剩余节点降级为 Tier 1 并跳过可选节点;低于 5% 除非下一节点是关键路径否则停止;0% 停止并返回带成本明细的部分结果。
成本估算:每个节点执行前按 estimated_cost = (avg_input_tokens × input_price + avg_output_tokens × output_price) 估算,优先使用该技能与模型组合的历史平均值;无历史时使用默认值:Tier 1(Haiku)约 800 输入 + 400 输出 ≈ $0.001,Tier 2(Sonnet)约 2000 输入 + 1000 输出 ≈ $0.012,Tier 3(Opus)约 3000 输入 + 1500 输出 ≈ $0.16。
执行后报告:输出总预算、总花费、剩余预算、执行/跳过/降级节点数、按模型的花费明细,以及节省建议,例如某节点用 Opus 但下游一次通过,可尝试 Sonnet;或指出可并行化的独立节点。
适用场景:为 DAG 执行设定并强制成本预算、执行中实时监控、决定何时降级模型层级、定位高成本节点、执行后成本分析与优化。
限制:不用于为每个节点选择模型(应使用 llm-router);不用于提供商价格比较(属于静态数据而非技能);不提供计费或开票功能。应避免完全不做预算追踪、在预算尚充足时过度降级导致质量失败与昂贵重试,以及忽略重试成本(应按 avg_retries × cost_per_attempt 预算)。