SuperAPI AI 工具集

coreweave-incident-runbook

部署与运维

查看项目

更新于 10-15 22:42

技能介绍

用途:在 CoreWeave GPU 工作负载出现故障时,稳定客户影响、保留脱敏证据并恢复到已知良好状态。事件指挥官负责沟通与升级,响应者仅使用分诊所需的最小权限。

前提:事件 ID、指定指挥官、受影响命名空间/服务、值班升级路径;授权的只读集群访问权限,以及已记录的生产回滚版本;针对日志、提示词、模型产物和凭据的脱敏策略。

主要步骤:声明严重级别与范围,采集 Pod、事件、节点和服务状态;先用已记录的扩缩容、故障转移或回滚动作稳定影响,再做根因分析;仅收集脱敏且有界的诊断信息,硬件或容量问题通过 CoreWeave 支持升级;对照服务 SLO 验证恢复,更新相关方,并为根因与预防创建后续工作。

分诊命令: kubectl get pods -l app=inference -o wide kubectl get events --sort-by=.lastTimestamp | tail -20 kubectl get nodes -l gpu.nvidia.com/class -o wide kubectl exec -it $(kubectl get pod -l app=inference -o name | head -1) -- nvidia-smi

常见事件:推理服务中断(检查 Pod 状态与事件;OOMKilled 则减小批大小或升级 GPU;ImagePullBackOff 检查镜像仓库凭据;Pending 检查 GPU 配额与可用性);GPU 节点故障(Pod 会自动重新调度,无容量时缩减非关键负载,长时间中断联系 CoreWeave 支持);模型加载失败(检查 HuggingFace token secret 是否存在、模型名拼写、PVC 存储是否充足、容器日志中的下载错误)。

回滚:kubectl rollout undo deployment/inference

输出:带时间戳的事件记录,含范围、负责人、稳定动作与脱敏证据;已验证的恢复,或带安全客户影响缓解措施的明确升级。

错误处理:回滚失败时停止重复部署尝试,升级至平台负责人并保留事件;诊断信息含密钥时限制分发、轮换密钥并重新收集脱敏证据;无 GPU 容量时按批准策略优先关键服务,不得移除租户配额;恢复无法满足 SLO 时声明持续影响并使用批准的降级或沟通路径。

示例: kubectl -n inference-prod rollout undo deployment/inference kubectl -n inference-prod rollout status deployment/inference --timeout=10m kubectl -n inference-prod get events --sort-by=.lastTimestamp | tail -30 记录版本、结果与脱敏事件;不要重试损坏镜像,也不要公开暴露排障端点。

限制:资料未提供具体收费、价格、平台支持范围或效果保证;数据处理的更多内容参见 coreweave-data-handling。