用途:面向昇腾 NPU 上 PyTorch 模型推理的运行时错误诊断与修复,核心理念为先定位再修复,通过二分法缩小故障范围;不覆盖精度问题。
主要能力:提供通用诊断流程(错误分类、二分法定位、算子约束速查、修复策略、验证清单)以及多卡部署诊断、推理卡住诊断等独立路径;常用命令如 npu-smi info 检查设备状态。
使用方式:无明确错误时先运行 npu-smi info,按进程数、HBM 与 CPU 占用判断分流;有明确错误时按分类到定位、查表、修复、验证推进;用 torch.npu.synchronize() 在 Prefill/Decode、层、模块、算子间插入检查点,逐级定位,再核对算子文档修复并做单步、全流程、全 rank 验证。
适用场景:模型加载/初始化/推理执行中的 aicore timeout、HCCL timeout、OOM、shape mismatch、算子约束违反、推理卡住、部分 rank 静默失败、权重加载 TP 切分越界、Config 兼容性问题等。
限制:资料未提供所支持的具体模型、版本、硬件型号与性能数据;算子约束以本仓调试经验为参考,需回到实际 API 签名与官方文档核对,不得跨算子套用。