SuperAPI AI 工具集

clade-cost-tuning

编程与开发

查看项目

更新于 10-16 06:20

技能介绍

用途:优化 Anthropic API 调用成本,在不明显损失质量的前提下减少 token 支出。

主要能力:按任务复杂度选择模型(简单分类/抽取用 Haiku,通用编码/写作用 Sonnet,复杂多步推理用 Opus);启用提示缓存,对 1024+ token 的系统提示设置 cache_control: { type: 'ephemeral' },首次按 1.25 倍计费,后续读取按 0.1 倍计费;使用 Message Batches 处理非紧急任务,价格约为标准价一半,24 小时处理 SLA;精简对话历史与 max_tokens,使用简洁系统提示;记录每次调用的 input_tokens、output_tokens 并估算成本。

用法要点:缓存需在请求头加入 'claude-beta': 'prompt-caching-2024-07-31';批处理通过 client.messages.batches.create 提交带 custom_id 的请求数组;用量日志可按 Sonnet 单价 (input3 + output15)/1_000_000 估算。

适用场景:批量文档处理、分类抽取、非实时生成等对成本敏感的工作负载。

限制:资料仅给出 Opus 4、Sonnet 4、Haiku 4.5 的每百万 token 价格示例,实际价格与模型可用性以官方为准;缓存与批处理有最低 token 与时效约束;需先完成 clade-install-auth 并具备 Anthropic 控制台用量监控权限。错误处理参见 clade-common-errors,延迟优化参见 clade-performance-tuning。