nemo-mbridge-perf-cuda-graphs
Megatron Bridge 的 CUDA Graph 技能,用于验证并启用 CUDA 图捕获,支持 local 全迭代图与 Transformer Engine 分层作用域图(attn、mlp、moe 等),含配置、约束与验证方法。
找到适合任务的 Agent Skill,阅读介绍并复制安装命令。
更新于 11-03 00:11
12,978 个结果
Megatron Bridge 的 CUDA Graph 技能,用于验证并启用 CUDA 图捕获,支持 local 全迭代图与 Transformer Engine 分层作用域图(attn、mlp、moe 等),含配置、约束与验证方法。
NVIDIA Megatron-Bridge 中启用分层上下文并行(HCP)的操作指南,涵盖配置项、代码锚点、常见陷阱与验证方法,适用于 cp_comm_type="a2a+p2p" 场景。
用于构建并发布 Switchyard 包的技能,走当前 OSS 风格的 GitHub 发布流程。适用于发布、打标签、切版本、构建等场景。
NVIDIA cuOpt 的 Python 安装与验证技能。用于从 Python 使用 cuOpt,涵盖 pip、conda、Docker 三种安装方式以及安装后的验证步骤。技能为独立技能,不含单独的 common 模块。资料中给出系统要求:GPU 需 NVIDIA Compute Capability ≥ 7.0(Volta 及以上),CUDA 12.x 或 13.x,并需按 CUDA 版本匹配安装包(cuopt-cu12 / cuopt-cu13),同时需要兼容的 NVIDIA 驱动。pip 安装明确提示二选一,不要同时运行两条命令,否则第二次安装会覆盖第一次,可能造成 CUDA/包版本不匹配。还提供了服务端与客户端组合安装方式、conda 安装命令、Docker 镜像拉取与运行方式,以及 Python 与服务端的验证方法(包括 health 检查)和常见问题排查提示。
cuOpt REST 服务器的领域概念说明,介绍其接受的优化请求类型(路由、LP、MILP,不支持 QP)以及基于请求 ID 轮询获取解的基本流程,不涉及部署命令或客户端代码。
NVIDIA Elements 的可用性报告技能:运行确定性脚本,检查最新 Elements 包在 npm 上是否可用、文档站点是否在线,并生成简要状态报告。
Megatron-LM 的 CI/CD 参考文档,介绍 CI 流水线结构、PR 范围标签、触发内部 GitLab CI 以及 CI 失败排查方法。
在 SLURM 集群上启动 Megatron-LM 分布式训练的指南,涵盖最小 sbatch 脚本、torch.distributed.run 环境变量配置、多节点规则、CUDA_DEVICE_MAX_CONNECTIONS 取值、容器运行、监控与故障诊断。
用于核查指定标签的 NeMo Relay 版本是否已发布到 GitHub Actions、带标签的 Go 模块源码、crates.io、PyPI 与 npm 的只读检查技能。
NeMo Relay 的 OpenInference 导出配置技能,用于向理解 OpenInference 语义约定的 OTLP 后端(如 Arize Phoenix)导出追踪数据。
在 origin/main 的 HEAD 上创建带注释的 semver 发布标签,并移动 latest 浮动标签后推送。适用于打版本、发版或准备构建时使用,需在 NemoClaw 仓库中操作并具备推送权限。
NemoClaw 网络策略管理技能,用于在终端 UI(TUI)中审查、批准或拒绝沙箱内智能体发出的被拦截网络请求,并可修改沙箱允许访问的端点策略。
NemoClaw 沙箱监控技能,用于检查沙箱健康状态、追踪智能体行为并诊断问题,适用于监控运行中的沙箱、调试智能体问题或查看沙箱日志。
NemoClaw 参考资料,说明其如何用 CLI 插件与带版本的蓝图,把 OpenClaw 迁入受控沙箱;适合查阅 NemoClaw 架构、插件结构或蓝图设计。
NemoClaw Workspace 用于在破坏性操作前备份和恢复 OpenClaw 工作区文件,适用于备份沙箱、恢复工作区状态或准备执行破坏性操作。工作区文件位于 /sandbox/.openclaw/workspace/,沙箱重启时保留,执行 nemoclaw <name> destroy 时永久删除。
该技能用于将原生单体仓库中的 NVCA Operator Helm Chart 变更发布到 vendored Helm Chart。适用于更新 vendored NVCA Operator Chart、修改自管理默认值或通过伞形 CI 发布 helm-nvca-operator 的场景。工作流涵盖在 src/compute-plane-services/nvca 中进行源变更与测试、从源 Chart 进行 vendoring、设置版本输入变量(如 NVCA_OPERATOR_VERSION、NVCA_VERSION、NVCA_SHARED_STORAGE_IMAGE_TAG)、执行 vendor-chart、lint、template、validate 命令,以及针对本地自管理控制平面渲染 stack-aware values 并安装。CI 通过 tools/ci/subproject-validations.yaml 声明,子项目 id 为 nvca-operator,不应添加 Chart 本地 .gitlab-ci.yml。本地镜像测试需从源目录构建并导入 k3d 集群,且显式匹配镜像标签。
该技能用于审计 Run:ai 集群中 GPU 配额分配的公平性。它按节点池(node pool)报告哪些项目配额被挤占(starved)、哪些项目超额借用(borrowing),并量化可回收的 GPU 数量。核心区分「应得配额(deserved)」与「已分配(allocated)」,识别超额借用、饥饿、部门超额分配以及节点池配额超订(over-subscription)等情况。技能为只读操作,不修改配额,仅给出回收建议。适用于排查团队拿不到 GPU、判断集群是否公平共享、寻找可回收 GPU 等场景。
这是 NVIDIA 发布的 Run:ai 工作负载诊断技能,用于排查失败、崩溃、停止、OOMKilled、CrashLoopBackOff、ImagePullBackOff,以及初始化、挂载、节点或策略终止等 Run:ai 工作负载问题。该技能以只读方式检查工作负载规格、Pod、历史与指标,并可选通过 Kubernetes 命令补充容器和节点证据,最终给出单一根因分类、量化证据、复发次数和下一步建议。它不是修复工具:不会重启、重提交、停止、修改或删除任何资源。
这是一个面向 Run:ai 集群管理员的只读健康巡检技能,用于回答“集群当前是否健康、若不健康则阻断每个节点池的原因是什么”。它通过 Run:ai MCP 服务器获取节点池、节点健康、GPU 清单、工作负载统计与集群指标,为每个节点池及整个集群给出 HEALTHY、DEGRADED 或 STUCK 之一的即时判定,并突出主要阻断因素,例如 NotReady 节点、GPU 不可调度、GPU 容量已满或调度器疑似卡住。该技能严格只读,不执行任何集群变更命令,也不使用 kubectl 或 runai CLI;它对待处理工作负载只做抽样分类,并要求明确告知抽样数量,对缺失的指标标注为不可用。适用于“集群是否健康”“调度器是否卡住”“有多少 GPU 离线或空闲”“GPU 分配与利用率是否匹配”等即时诊断问题,不适用于配额公平性审计、单个工作负载排障或历史故障趋势分析,这些情况会被移交给其他专门技能。
这是一个只读的 Run:ai 集群 GPU 利用率检查技能,用于回答“各项目、部门、节点池持有的 GPU 是否真的在计算、持有的容量浪费在哪里”。它通过 Run:ai MCP 工具读取分配与利用率指标,按持有者计算平均利用率、p95、空闲 GPU 和空闲 GPU 小时,并分为 IDLE、UNDER_UTILIZED、WELL_UTILIZED、LOW_DATA、UNKNOWN 等类别,附加 bursty、idle since、memory-loaded、fractional 等标记。技能严格只读,不执行停止、暂停、删除、扩缩容或配额变更,也不运行 kubectl、nvidia-smi、runai CLI 等命令。
runai-get-workload-health-summary 是一个面向 Run:ai 平台的只读工作负载健康巡检技能,用于在指定范围(项目、部门、节点、节点池、阶段、类型、优先级、镜像、属主、空闲阈值等)内汇总工作负载健康状况,或对单个工作负载生成包含状态、配置、Pod、指标与策略五个部分的健康快照。它回答“当前发生了什么、哪些工作负载需要关注”,并可对失败工作负载做节点关联分析;但不用于根因诊断、配额公平性分析、集群健康、整体 GPU 利用率、历史对比,也不执行任何变更操作。
repo-delivery 是一项面向代码仓库交付流程的技能,用于改进仓库的初次使用引导、安装、升级、打包与发布验证。它帮助开发者根据产品形态、用户群体和既有约束选择合适的分发方式,并建立可执行的本地交付约定:优先使用已有交付文档,否则新增简短 docs/DELIVERY.md,记录分发渠道、支持平台、精确验证命令、状态保留要求和发布权限,并从开发说明与拉取请求模板链接过去。该技能覆盖技能或智能体插件、本地 CLI、库、Web 应用或服务、桌面应用等场景,要求分别验证用户路径。它强调提供版本识别与就绪诊断方式,确保更新刷新实际安装的代码或依赖,明确保留内容与恢复方法,使用原生卸载且不误删用户数据,并区分包存在性、完整性、应用发现、认证、提供方就绪与任务成功等检查。验证阶段要求先在模型审查前运行确定性检查,在一次性环境中测试文档化首次使用路径,覆盖更新漂移、失败恢复与移除,并核对下载制品、版本、内容、许可证声明和源码修订。
该技能用于以 Infisical CLI 作为密钥管理的可信边界,安全认证后将密钥注入进程,避免把密钥值写入聊天、日志或受版本控制的文件。支持自托管域名、机器身份认证与仓库级密钥工作流,并提供 recon、auth、run、sync、pawrrtal 五类操作及配套 cookbook。
env-validation 是一个用于校验 .env 文件的技能,可将 .env 与 .env.example 或 JSON schema 对比,在部署前或排查配置缺失时发现缺失、多余或类型错误的变量。