用途：在 CoreWeave 上对 GPU 推理或训练做性能调优，目标基于实测的吞吐、延迟、质量、可用性与成本指标，而非单纯追求高利用率。
主要能力：提供按工作负载选择 GPU 的建议（如 7-13B LLM 推理用 A100 80GB、70B+ 用 8xH100、图像生成用 L40、大模型训练用 8xH100 SXM5、批处理用 A100 40GB）；给出 vLLM 连续批处理参数示例（--max-num-batched-tokens、--max-num-seqs、--gpu-memory-utilization、--enable-prefix-caching、--dtype）；给出基于 DCGM_FI_DEV_GPU_UTIL 的 HPA 自动扩缩配置；并列出 A100-80GB 与 H100-80GB 的参考基准（Llama-8B 约 2000/4500 tokens/秒，Llama-70B 约 200/500 tokens/秒，vLLM 冷启动 30-60s/20-40s）。
使用方式：先建立 p95/p99 延迟、吞吐、错误率、显存与利用率的基线，准备非敏感评测集并指定 SLO 负责人；每次只改一个变量（批大小、GPU 型号、副本数或显存目标），在 staging 跑约定负载与质量评测后与基线对比；仅当观察窗口内所有 SLO 与质量阈值通过才提升金丝雀。示例命令：kubectl -n inference-staging apply -f inference-tuned.yaml；kubectl -n inference-staging rollout status deployment/inference-server --timeout=10m；./scripts/load-test --target staging --duration 15m --report aggregate.json。
适用场景：需要降低推理延迟、提升 GPU 利用率、调整批大小与自动扩缩的 CoreWeave 用户。
限制：为社区贡献内容，与 CoreWeave, Inc. 无隶属或赞助关系；需具备基线、评测集、staging 与回滚清单等前提；显存超限、批处理后延迟上升、质量下降或自动扩缩震荡时应回滚并排查，不得靠调大超时掩盖回归。成本优化另见 coreweave-cost-tuning。