用途:优化 Claude API 支出,核心手段为模型路由、提示缓存、Message Batches API 与实时成本跟踪。资料称四个最大杠杆是模型选择(4-19 倍)、提示缓存(输入 10 倍)、批处理(2 倍)和 max_tokens 纪律。
主要能力:提供按百万 token 的定价参考(Haiku 输入 $0.80/输出 $4.00/缓存读 $0.08/缓存写 $1.00;Sonnet $3.00/$15.00/$0.30/$3.75;Opus $15.00/$75.00/$1.50/$18.75),Message Batches 异步处理所有模型五折。给出 estimate_cost 成本估算函数,支持缓存输入与批处理折扣。策略包括:按任务复杂度路由到最便宜够用模型;对重复系统提示与参考文档启用 cache_control ephemeral;对非实时任务使用 batches.create;用 SpendTracker 跟踪支出并在 80% 预算告警、超预算抛错。
使用方式:先建立已批准预算、计费负责人、成本分摊维度与告警阈值;在沙箱用合成提示、固定模型 ID 和版本化定价快照验证;配置最小权限凭据,日志只含 token 数与聚合成本。基线测量后定义质量下限,仅将合格负载路由到最便宜模型,缓存仅用于已批准的非敏感内容,批处理仅用于可异步完成场景。限制 max_tokens、并发、重试与批大小,按功能与工作区强制预算,无法评估时失败关闭。先在沙箱测试,再金丝雀发布并监控成本、质量、延迟、错误与限流,需负责人批准后扩大。
适用场景:分析 Claude API 账单、降低调用成本、设计路由与缓存策略、非实时批处理管道。
限制:资料要求不得用实时客户提示调价;未知模型价格或用量字段时停止预测并标记为暂定;预算超限时拒绝或排队,不得用其他密钥绕过;质量回退时恢复原路由并隔离受影响输出;缓存或批处理不符合数据/延迟政策时禁用。输出成本控制回执,排除提示/响应文本、客户标识、API 密钥与原始账单导出。官方定价与用量 API 等资源链接暂未提供具体地址。