用途:为运行在 Kubernetes 上的 CoreWeave GPU 密集型工作负载建立监控与可观测性,覆盖 DCGM GPU 指标、Pod 健康、推理延迟和任务完成率,用于发现硬件故障、显存耗尽与 GPU 闲置浪费。
主要能力:提供关键指标参考(GPU 利用率、显存使用率、推理延迟 p99、任务完成率、Pod 重启次数、节点 GPU 温度)及建议告警阈值;给出仪表盘与告警规则思路;提供推理埋点、健康检查、结构化日志与错误处理示例;输出带受限标签的仪表盘、脱敏事件轨迹和已测试的故障响应路径。
使用方式:需先具备接收 Kubernetes 与 DCGM exporter 指标的指标后端,指定仪表盘与值班负责人,并配置排除提示词、模型输出、token 和凭据的日志与追踪脱敏规则。指标标签使用 namespace、模型族、状态等有界值,不要用请求 ID、提示词或用户标识。告警路由到负责的值班团队并关联含安全缩容或回滚动作的 runbook。可在非生产命名空间测试告警,例如:kubectl -n inference-staging scale deployment/summarizer --replicas=0,确认告警送达后恢复 kubectl -n inference-staging scale deployment/summarizer --replicas=1。
适用场景:GPU 利用率、显存、延迟、节点健康等监控与告警;容量、内存、延迟和节点故障的事件响应。
限制:为社区贡献内容,与 CoreWeave, Inc. 无隶属、背书或赞助关系;CoreWeave 为其注册商标。具体收费、价格与平台支持情况暂未提供。