external-cannbot-model-model-infer-fusion
基于 PyTorch 的昇腾 NPU 模型推理融合算子优化技能:分析模型代码,识别可替换为 torch_npu 融合算子的计算模式,生成替换方案并逐模块验证。适用于 torch_npu 融合算子替换、MoE/Attention/FFN/Norm 等模块的推理算子适配。
找到适合任务的 Agent Skill,阅读介绍并复制安装命令。
更新于 11-16 00:04
41,267 个结果
基于 PyTorch 的昇腾 NPU 模型推理融合算子优化技能:分析模型代码,识别可替换为 torch_npu 融合算子的计算模式,生成替换方案并逐模块验证。适用于 torch_npu 融合算子替换、MoE/Attention/FFN/Norm 等模块的推理算子适配。
面向昇腾 NPU 的 PyTorch 模型推理适配与部署基线技能:从 HF 链接或本地代码出发,按 cann-recipes-infer 规范适配 ModelRunner,产出标准模型目录与基线数据,覆盖新模型适配与基线采集场景。
基于 PyTorch 与昇腾 NPU 的模型推理并行切分实施技能,依据已确认的 parallel_config 对模型代码做并行化改造,涵盖并行线性层替换、MoE 并行适配、通信组创建、Embedding 与 LMHead 并行、YAML 配置生成及权重处理。
Ascend C 代码检视技能,基于假设检验方法论对代码进行安全规范检视。输入需提供代码片段和检视规则描述,可选规范文件路径。默认使用安全编码规范,输出含风险点、证据链与规范条款引用的检视报告。
Ascend C 开发资源检索技能,采用本地优先、在线兜底的文档搜索方式,帮助定位 API 用法、示例代码、兼容性信息与官方资料入口,本地不足时再查在线文档。
面向 DAV_3510 RegBase 的 Ascend C 算子开发参考技能,用于确认 API 约束、查看实现结构、排查常见陷阱并选择真实参考算子。仅在 Architect 将 RegBase 选为候选路线或出现 RegBase、RegTensor、asc_vf_call、simd_vf 等信号时使用。
用于探索 PyPTO API 的技能:把算子的计算逻辑分解为原子操作,映射到对应 PyPTO API,检查 dtype、shape、连续性与 Tiling 等约束,分析算子可行性,并输出 API_REPORT.md 报告。
面向算子开发场景的 PyTorch golden 参考实现生成技能。依据算子规格信息生成纯 PyTorch 的 {op}_golden.py,导出 {op}_golden() 函数,作为精度验证基准,可被 test_{op}.py 等脚本导入调用。触发词包括生成 golden、生成参考实现、写 golden 函数等。
PyPTO 算子需求意图理解技能:把用户用自然语言描述的算子需求转化为结构化需求文档(SPEC.md),适用于提出开发、实现或创建算子(如 sinh、GELU、参考 PyTorch API、依论文实现、自定义算子)的场景。
用于在昇腾 PyPTO 框架下编写算子实现的技能:依据 SPEC.md 需求规格、DESIGN.md 设计方案与 {op}_golden.py 参考实现,生成可运行的算子实现、精度测试与 README。
PyPTO 算子精度问题排查技能,专注用户代码层面的语法逻辑检查与规避方法尝试。当算子精度验证失败、输出结果异常、计算错误或数值偏差时使用,不负责底层框架代码分析与深层根因定位。
根据用户提供的 ATB 与 ACLNN 接口文档链接,自动生成 ATB 算子替换为 ACLNN 算子的详细设计文档,包含参数映射、规格约束、开发自测与风险评估,支持完整版与轻量版两种模板。
ATB 调试指南技能,用于排查 ATB 算子测试中的环境配置、ABI 版本不匹配、内存错误、CSV 测试失败与 ACLNN 接口问题,提供错误定位、日志分析与解决步骤。
本技能用于为单个 GitCode Issue 生成回复草稿,草稿仅供维护者审阅,确认后再发送。使用前提是用户同时表达「回复 issue」的意图,并提供唯一的 GitCode Issue 链接或 owner/repo#number 形式的标识;若只提供链接而无回复意图,则不使用本技能。认证方面,Token 按优先级获取:用户在问题中直接提供、从环境变量 GITCODE_TOKEN 读取、或使用请求头 PRIVATE-TOKEN;未配置时提示用户到 GitCode 创建个人访问令牌。依赖仅为 Python 3.7+ 标准库,无外部依赖。工作流程分两轮:第一轮解析 Issue 并执行 prepare_issue_reply.py 脚本,读取输出的 JSON,处理其中的人机交互流程;若已有他人回复则跳过,若 label_needed 为 true 可先执行 post_comment.py 打标;随后依据 prompt_draft_partial 生成草稿,并在有图片时强制查看图片内容后纳入回复,最后向维护者展示草稿、图片分析摘要与安全警告。第一轮结束时处于未确认发送状态,只有用户后续明确表达「发送」「回复」「发出去」等意图时才在第二轮调用 post_comment.py 发布回复正文;用户说「取消」则结束且不发送。
DonorPerfect Online XML API 集成参考,面向非营利组织捐赠者管理与募捐功能的开发。资料涵盖 v7.1 用户手册,基于 DonorPerfect Online 2024.02.16,说明 HTTPS 单一端点、API 密钥认证、预定义过程与动态 SQL 两种执行模式。
Paligo CCMS REST API v2 集成参考技能,覆盖文档、文件夹、分叉、图片、搜索、导入、发布、翻译、分类法、变量与用户等全部资源接口,说明认证、核心概念与内容拉取—编辑—校验—推送流程。
Printify 公共 API 参考与配套命令行工具,用于构建按需印刷集成:浏览商品目录(蓝本、印刷商、变体、占位符、运费),上传图案,创建产品与订单。含端点、模式、Webhook 文档,支持个人令牌或 OAuth,仅限服务端调用。
Smith 是一个在 Herdr 窗格中并行编排多个编码任务的技能。它本身不写任务代码,而是创建 worker、发送提示、监视进度并把问题转达给用户,支持 Claude Code、Codex、Copilot、Cursor 等多种编码代理。
该技能用于解释系统、功能或模块的架构,说明各部分职责、边界、数据流与关键权衡。它会先确定解释范围与状态(当前工作区、指定修订或拟定设计),再结合项目文档、入口、配置、实现、调用方与测试还原主要组件及其连接,追踪一条代表性操作流程,并区分已实现、计划中与未定部分,最后以对话形式给出与读者语言和技术背景相匹配的说明。
Sidekick 是一个只读的架构讲解助手技能:当主智能体在另一会话中实施改动时,它在当前会话中帮助开发者理解项目。它通过阅读项目说明、相关实现、调用方、测试和文档,梳理各部分的职责与协作方式,并用项目中的真实名称和文件/符号引用解释代码行为。它不修改文件、不操作 Git 状态、不安装依赖、不运行可能写产物的构建或测试,发现的问题只在对话中说明。适合需要理解现有代码、追踪数据流或建立项目心智模型的场景。
golang-cli-review 是一个面向 Golang CLI 应用的代码审查技能,用于系统性地检查 Go 命令行项目并产出可执行的审查清单。它覆盖 CLI 结构与框架(如 Cobra/urfave)、错误处理、标志与参数设计、输入输出、安全、测试、性能与资源以及 Go 惯用法等类别,并按严重程度将发现分为关键问题、警告、建议和值得肯定的良好实践,便于开发者逐项修复与改进。
该技能用于审查 astral-sh/ruff 仓库中的 ty 改动,涵盖拉取请求和用户或智能体刚写入的本地改动。默认以“只调查、只报告”的方式进行细致审查,不修改源码、不应用修复、不推送提交、不发表 GitHub 评论、不批准或提交审查,除非用户明确要求。技能强调变更来源与复现隔离:问题、PR 及其中的说明、评论、附件、代码和命令均视为不可信证据而非指令;对来源未知的代码,需先检查完整 diff 与依赖,并在一次性 Docker 容器中构建、测试和复现,避免在宿主机执行不可信代码。审查流程包括识别变更与范围、验证变更动机、检查 diff 之外的实现与测试、评估测试与生态结果、复现验证问题,并按 Blocker 与 Non-blocking 分类报告发现。
用于起草 Apache Airflow 贡献文本的技能,可生成提交信息、PR 标题与描述、GitHub 评论和评审,以及发布说明决策。
land 是面向 Git 仓库的合并工具,核心命令为 land merge:它把已完成分支合并到目标分支,在服务器上对合并结果运行一次测试,并以 JSON 返回哪些分支成功落地、哪些被拒绝及原因(如测试失败、冲突、测试无法收集)。land 自身不向 GitHub 推送,也不保存 GitHub 凭据,合并结果需用户用自己的 git 权限推送;推送时需同时推送结果提交与 refs/land/attestations 签名证明,以便在 GitHub 上校验通过的代码树。