用途
metal-optimize 是 MNN Metal 后端算子(op)与内核(kernel)开发及优化的入口索引技能。它不直接提供技术内容,而是根据任务类型将使用者引导至对应的子文档,确保在正确的阶段查阅正确的操作知识。
主要能力
该技能通过多个子文档覆盖 Metal 优化的完整链路:
- op-bench-and-diagnosis.md:性能问题诊断流程。要求同时使用算子单元测试(信噪比)与对手基准(绝对标尺)定位真实瓶颈,包含固定/流式分解、消融阶梯、标定尺度分工、验证方法与收工判据。
- kernel-dev-and-optimize.md:内核开发规范与优化知识库。开发规范涵盖核心原则、dispatcher 结构、shader 组织与命名约定、编译期宏同步、Execution 骨架与注册、通用陷阱、packed weight 设计、修改流程与正确性验证;优化知识库涵盖 GEMV、GEMM、Attention 等内核的机制与原理,以及优化方法论。
- graph-fusion.md:算子融合全链路,包括导出期声明、转换器吸收、几何兜底拆分、Metal 装配,含内存别名铁律、链式门控依赖、排查清单与融合方法论。
- runtime-scheduling.md:运行时调度优化,涉及 fence、content-cache、H2D 上传、采样去框架化、commit cadence、Encode Replay 及调度方法论。
- build-and-test.md:cmake 编译命令、模型导出命令、性能测试命令与 CPU/Metal 对拍。
- env-registry.md:Metal 相关环境变量开关的集中登记表,仅记录名称、默认值、功能与生效条件。
使用方式
技能文件本身只做索引与路由。使用者需先根据“想做的事”查阅快速任务索引,定位到具体子文档的对应章节,再按子文档中的流程与规范操作。技能还提供瓶颈选题决策路径,帮助判断应优先查阅哪个子文档。
适用场景
- 新增或修改 Metal kernel、shader 或 dispatcher
- LLM 解码/预填充性能优化
- 算子融合的声明、装配与排查
- 逐算子性能定位与瓶颈分析
- 运行 Metal LLM 测试或与 CPU 对拍
- 查询或新增 Metal 相关环境变量开关
限制与约束
- 不读取、不修改 schema/private/ 与 source/internal/ 目录。
- 实验记录有严格规则:默认不记录单次 A/B 结果;仅当形成跨形状/跨芯片可复用判据、重复踩坑陷阱、环境变量变更、新路由或默认值、已证伪方向的可复用判据时才写入技能,且不记录性能数字、标定叙事、单机单模型数字与已回退实现细节。
- kernel-dev-and-optimize.md、runtime-scheduling.md、env-registry.md 各有额外硬性约束,禁止写入性能数据与实验叙事。
- 正确性验证优先于性能测量:错误内核也可能“变快”,对拍通过前测得的收益不可信。
- Apple GPU 之间不可互推,设备分档需依据 architecture.name 与 isSupportTensorApi()。