用途:该技能用于计算昇腾 NPU 上 matmul、GEMM、FlashAttention 等算子的 MFU(Machine FLOP Utilization,机器算力利用率),并给出清晰的公式与推导过程。流程为:输入校验 → FLOPs 计算 → 实际 TFLOPs/s → MFU 计算 → 结果分析。
主要能力:计算算子理论 FLOPs、由执行时间换算实际 TFLOPs/s、按 MFU = Achieved FLOPs / Peak FLOPs 计算利用率并给出解读与优化建议;内置智能瓶颈诊断,可基于 profiling 数据分析根因,将瓶颈归类为内存受限、计算受限、通信受限或算子回退,并给出带优先级的优化建议与已知性能反模式匹配。
使用方式:需提供算子类型(matmul/flash_attention/gemm 等)、理论 FLOPs、执行时间(毫秒)、硬件峰值算力(TFLOPS)等必填参数,NPU 设备类型(910B/910 等)为可选。公式中 Achieved FLOPs = Operation FLOPs / Execution Time,Peak FLOPs 为硬件相关峰值(资料举例 Ascend 910B FP16 为 256 TFLOPs)。
适用场景:评估算子对昇腾 NPU 算力的利用程度、比较不同算子实现性能、识别矩阵运算优化机会。
前置条件:Python 3.8+,并了解 FLOPs 计算基本概念。相关技能为 huawei-cloud-ascend-profiler-db-explorer,用于算子性能数据的 profiling 分析。
限制:具体安装命令、调用接口与更多硬件峰值参数暂未提供。