用途：优化 Claude API 的延迟与吞吐，手段包括提示缓存、模型选择、流式输出和请求优化。
主要能力：提示缓存用 cache_control 标记可复用长内容，后续请求缓存部分成本约降 90%、延迟接近零；缓存要求 Sonnet/Opus 最少 1024 token、Haiku 2048 token，缓存存活 5 分钟并在命中时刷新。模型选择按任务复杂度路由：Haiku 最快，适合分类、抽取、路由；Sonnet 均衡，适合通用任务、工具调用、代码；Opus 最深，适合复杂推理与研究。流式输出可把首 token 时间从数秒降到约 200ms。还可通过设置合适的 max_tokens、用 assistant 预填跳过开场白、用 count_tokens 预检大输入、以及受控并发并行请求来提速。
使用方式：用 anthropic 客户端创建消息，在 system 块加 cache_control 启用缓存，通过 usage 字段查看 cache_read_input_tokens、cache_creation_input_tokens 和 input_tokens；流式用 client.messages.stream 遍历 text_stream；并行可用 @anthropic-ai/sdk 配合 p-queue 限制并发。
适用场景：需要降低 Claude API 延迟与成本的分类、抽取、摘要、代码、研究等任务。
限制：资料要求先定义延迟、吞吐、质量、token、错误等 SLO 及模型、缓存、并发、重试策略；使用固定模型 ID、合成提示、隔离工作区和代表性非敏感样本，不得用客户内容或生产凭据做基准测试；一次只改一个变量，日志不得含提示内容，敏感数据启用缓存前需确认合规；需设置请求范围、max_tokens、超时、重试和并发上限，失败时停止而非放宽控制；上线前需在沙箱或内部工作区做金丝雀对比并获批准，监控 p95/p99 延迟、错误率、token 用量和花费；回退时恢复原配置并按保留策略清理临时缓存与测试产物。输出性能凭证需含配置与模型 ID、基准样本类别、样本量、延迟/吞吐/token/缓存聚合、质量与错误结果、工作区/金丝雀范围、审批、保留与回滚引用，且排除提示、响应、用户标识和密钥。资料未提供具体价格以外的收费信息。