SuperAPI AI 工具集

mcore-onboard-gb200-1node-tests

测试与质量

查看项目

更新于 10-16 02:34

技能介绍

用途:为 NVIDIA Megatron-LM 的 GB200 功能测试创建 1 节点(mr-github)变体,来源是已有的 2 节点(mr-scoped)测试。每个 GB200 节点 4 GPU,2 节点共 8 GPU,1 节点变体用 4 GPU。

主要能力与流程:

  1. 在 tests/test_utils/recipes/gb200/ 下的 gpt.yaml、moe.yaml 中扫描 products 块,找出 scope 含 mr 或 mr-slim 的条目;忽略已在 *-1node.yaml 覆盖的测试,以及 nightly、weekly、mr-broken。
  2. 读取每个候选的 model_config.yaml,提取 TP、PP、EP、ETP、CP、global-batch-size、micro-batch-size。
  3. 按 world_size = TP × PP × DP(DP ≥ EP)分类:TP × PP ≤ 4 为直接复制;TP × PP = 8 时 PP 减半;EP > 4 时 EP 设为 4;两者都超时同时缩减;并检查 EP × ETP ≤ TP × DP_new。不要改 GBS,由梯度累积吸收减少的 DP。
  4. 创建 _1node 模型配置目录,例如 mkdir -p tests/functional_tests/test_cases/{model}/{test_case}_1node,再复制 model_config.yaml 并修改并行参数。
  5. 创建或更新 recipe 文件:GPT 测试新建 gpt-1node.yaml(nodes: 1、gpus: 4,script_setup 与 script 从 gpt.yaml 原样复制);MoE 测试向已有 moe-1node.yaml 追加条目。
  6. 添加 products 条目:每个 recipe 选 1–2 个代表性测试用 scope: [mr-github, mr-github-slim],其余用 scope: [mr-github],platforms 为 dgx_gb200。

适用场景:Megatron-LM 仓库中 GB200 功能测试从 2 节点迁移到 1 节点、接入 GitHub MR 流水线。

限制:资料未提供具体运行命令、依赖版本、耗时或效果数据;需按仓库现有 recipe 与配置实际执行,避免 mr-github-slim 套件过载。