SuperAPI AI 工具集

coreweave-prod-checklist

部署与运维

查看项目

更新于 10-15 22:42

技能介绍

用途:在将 CoreWeave 推理或训练工作负载暴露到生产环境前,作为上线门禁使用,验证容量、数据保护、可观测性与恢复能力均已有人负责并经过测试。它不能替代针对具体服务的风险评审。

前提条件:已签署的部署变更、指定的服务负责人、获批的生产命名空间;通过预发评估、容量预测与回滚清单;已配置值班路由、密钥管理器引用与数据分级。

使用方式:逐项完成清单并附证据链接,而非口头声明;在变更窗口内确认分阶段发布、健康检查与回滚命令;若安全、数据、容量或可观测性任一关卡无负责人则停止发布;记录最终 go/no-go 决策、时间、负责人与脱敏验证回执。

检查项:推理服务方面,验证 GPU 类型与数量匹配模型规模,配置自动扩缩(KServe 或 HPA)、健康与就绪探针、资源请求与限制、指向正确 GPU 类别的节点亲和性,生产环境 minReplicas >= 1 以避免冷启动。存储方面,模型权重放在 PVC 而非启动时下载,检查点保存到持久存储,按用途选择存储类别(推理用 SSD,归档用 HDD)。安全方面,为模型令牌与镜像仓库访问配置密钥,应用网络策略,容器镜像来自可信仓库。监控方面,采集 GPU 利用率指标,跟踪推理延迟与吞吐,对 Pod 重启与 OOM 事件告警,配置日志聚合。回滚命令:kubectl rollout undo deployment/my-inference 与 kubectl rollout status deployment/my-inference。

输出:一份生产就绪记录,将容量、存储、安全、监控与回滚证据关联到部署;以及带负责人和已测试恢复命令的明确 go/no-go 决策。

错误处理:就绪或预发测试失败时暂停发布并恢复上一个已知良好版本;GPU 容量未确认时不要启动,与平台负责人解决配额或容量;缺少密钥或网络策略时阻止部署,直到命名空间加固基线到位;缺少监控路由时阻止生产暴露,直到告警能到达值班负责人。

示例:在获批变更窗口内执行 kubectl -n inference-prod apply -f release.yaml、kubectl -n inference-prod rollout status deployment/my-inference --timeout=15m、kubectl -n inference-prod get pods -l app=my-inference。若发布或冒烟测试失败,立即执行文档化回滚,采集脱敏事件并标记为 no-go,不要以更弱的安全或容量控制重试。

限制:资料未提供具体收费、价格、平台支持范围或效果保证;升级场景参见 coreweave-upgrade-migration。