用途：在实现 LLM 应用缓存时使用，适用于相同或相似提示被反复发送、大型系统提示跨请求复用、相同查询可复用响应、需要降低常见请求延迟或优化高并发应用成本的场景。
主要能力：
- 提供商级缓存（Anthropic）：通过 cache_control: { type: 'ephemeral' } 缓存系统提示，缓存写入比基础输入价高 25%，缓存读取比基础输入价低 90%，约 2 次相同缓存内容请求即可回本，缓存 5 分钟。
- 响应缓存：对完全相同查询按哈希缓存响应，带 TTL（默认 1 小时）与元数据。
- 语义缓存：基于嵌入向量与余弦相似度匹配，阈值默认 0.95，可命中语义相近的查询。
- 模板缓存：缓存静态部分，动态部分单独哈希，适合翻译等模板化任务。
- Redis 分布式缓存：使用 ioredis 与 sha256 键，支持 TTL 与命中/未命中统计。
- 缓存失效：支持 TTL、按事件失效、按标签失效。
- 成本节省计算：根据命中/未命中、平均输入输出 token 与定价估算节省金额与百分比。
使用方式：按需选择缓存层级，设置合适 TTL，监控命中率，智能失效避免返回过期数据，谨慎使用语义缓存（嵌入成本会累积），可预热缓存，并注意缓存内存开销。
限制：资料未提供具体平台支持范围、完整定价表、部署要求或性能基准，实际效果取决于应用场景与配置。