SuperAPI AI 工具集

atb-aclnn-operator-migration

编程与开发

查看项目

更新于 10-24 04:38

技能介绍

用途:该技能面向 ATB(Ascend Transformer Boost)源码维护场景,用于把指定 ATB 算子迁移到 ACLNN 实现,并在 910B/950 设备上通过设备检测切换到 ACLNN Runner,以利用硬件优化;其他设备继续使用原有实现。

主要能力:

  • 分析 ATB 算子实现,包括 infer_op_params.h 中的参数结构、<operator>_operation.cpp 的操作逻辑和 <operator>_ops_runner.cpp 的既有 Runner;
  • 创建 <operator>_aclnn_runner.h 与 .cpp,实现 BuildAclnnVariantPack、SetAclNNWorkspaceExecutor、LaunchAclnnKernel 和 LoadMethod;
  • 修改 Operation 实现,在 CreateRunner 中加入 910B/950 检测分支,使用 GetSingleton<Config>().Is910B()/Is950() 选择 ACLNN Runner;
  • 更新 CreateOperation 支持 910B/950 训练设备,并保持其他设备兼容;
  • 提供编译验证、功能验证(非 910B/950 设备与 910B/950 设备 ACLNN 路径)和性能对比验证步骤。

使用方式:执行前必须从用户处取得 CANN 安装路径(<CANN_PATH>)和 ATB 仓库路径(<ATB_REPO_PATH>),路径缺失或无效应立即停止并报错。前置条件包括 CANN 环境已安装且 ASCEND_TOOLKIT_HOME 已设置、ATB 源码已克隆到本地、已获取算子对应的 ATB 与 ACLNN 接口文档,并建议先运行 atb-aclnn-operator-replacement-designer 生成设计文档。步骤为:分析算子与 ACLNN 接口、创建 ACLNN Runner、修改 Operation 的设备分支、编译并用 apitest 或对应 Python 测试脚本验证功能、进行性能对比。示例流程为 git apply 迁移补丁后执行 cmake .. 与 make -j 编译,再运行 ./tests/apitest/opstest/python/operations/<operator>/test_<operator>.py 和 performance_benchmark.py。

适用场景:需要提升 910B/950 设备上 ATB 算子性能、保持上层 ATB 接口不变、需要跨设备兼容并保留原有实现的工程;也适用于已有替换设计文档后落地 Runner 改造与验证。

限制:资料未提供该技能的收费、价格、具体支持的算子清单、最低 CANN 版本、性能提升幅度或平台范围,均暂未提供。执行效果依赖 CANN 与 ACLNN 接口可用性及设备环境;编译失败需检查 CANN 版本兼容性与 ACLNN 接口;性能无提升需检查 ACLNN 函数加载与工作空间配置;其他设备异常需复核设备检测逻辑。