用途：在 CoreWeave（CKS）上以 KServe InferenceService 部署生产级模型推理服务，结合 GPU 调度、自动伸缩与缩容到零。该内容为社区贡献，与 CoreWeave, Inc. 无关联或背书。
主要能力：通过 InferenceService 声明式配置预测器副本数、容器镜像、端口、GPU/CPU/内存资源与节点亲和性（如按 gpu.nvidia.com/class 选择 A100_PCIE_80GB）；使用 Knative KPA 并发指标自动伸缩，可设 minScale/maxScale；开发或预发环境可配置缩容到零（minScale: "0"、maxScale: "3"、scaleDownDelay: "5m"），生产建议 minScale: 1 以避免冷启动。
使用方式：先完成 coreweave-install-auth 并确保 CKS 集群可用 KServe，模型存于 S3、GCS 或 HuggingFace。编写 inference-service.yaml 后执行 kubectl apply -f inference-service.yaml，用 kubectl get inferenceservice llama-inference -w 观察就绪。测试时取 INFERENCE_URL=$(kubectl get inferenceservice llama-inference -o jsonpath='{.status.url}')，再向 ${INFERENCE_URL}/v1/chat/completions 发送 POST 请求，示例模型为 meta-llama/Llama-3.1-8B-Instruct，Hugging Face 令牌通过 secretKeyRef 引用 hf-token 的 token 键。
适用场景：为 ML 模型提供命名空间级推理端点，含就绪状态与端点冒烟测试，并记录缩容到零的适用性决策。
限制与注意：常见问题包括 GPU 不可用导致 InferenceService 未就绪、缩容到零冷启动、大模型加载超时（可预缓存到 PVC）、模型过大引发 OOMKilled（可用多 GPU 或量化模型）。不要公开暴露端点，也不要为调试用明文令牌替换 secret 引用。GPU 训练工作负载参见 coreweave-core-workflow-b。