SuperAPI AI 工具集

nemo-rl-e2e-testing

测试与质量

查看项目

更新于 10-16 02:33

技能介绍

用途:在 Megatron-Bridge 的模型或训练 API 发生变更后,通过 NeMo-RL 的 Megatron 后端做外部兼容性冒烟测试,捕获仅靠 Bridge 测试无法发现的集成问题,例如 NeMo-RL 侧的 rollout 调度、奖励处理、policy/reference 设置、经 Bridge 的 HF 导入导出、优化器设置、检查点归属以及 policy 到 generation 的权重传输。它是聚焦 Bridge 测试通过后的补充验证,不能替代 Bridge 的模型一致性测试。

主要能力与覆盖层级:按变更范围选择级别。Level 0 为 Megatron policy GRPO 冒烟,适用于新增 provider 或 provider 配置变更;Level 1 覆盖 LoRA/检查点变体;Level 2 覆盖非共置 vLLM refit;Level 3 为可选的 Megatron 生成后端;Level 4 为并行压力测试;Level 5 为架构特定端到端;Level 6 验证学习信号。默认 Level 0 目标为 uv run bash tests/functional/grpo_megatron.sh,仅证明任务能完成少量更新,不是收敛测试。

使用方式:使用显式仓库变量,不依赖已安装的 megatron-bridge wheel。默认上游仓库为 https://github.com/NVIDIA-NeMo/RL,克隆命令为 git clone https://github.com/NVIDIA-NeMo/RL.git /path/to/nemo-rl。设置 BRIDGE_REPO、NEMO_RL_REPO 与 PYTHONPATH,并确认 python 导入的 megatron.bridge 路径位于 $BRIDGE_REPO/src。先运行 Bridge 聚焦测试,再运行 NeMo-RL 单元检查,最后执行外部 e2e。模型优先选择变更 provider 家族中最小的公开 HF 检查点,如 Qwen/Qwen2.5-0.5B。

适用场景:新增 provider、检查点/HF 导出、vLLM refit、并行配置、MoE、VLM/音频、MTP/draft、FP8/QAT/ModelOpt 或学习信号相关变更。

限制:NeMo-RL PEFT 支持依赖后端与版本,已知不可用时可记录为不适用;部分版本中 mcore 与 vllm 互斥,可能阻塞 vLLM 路径;文本 GRPO 冒烟不能验证 VLM/音频或量化路径;具体指标断言接口随版本变化,需先查看 tests/check_metrics.py 或维护的 functional 包装脚本。资料未提供收费、价格或平台信息。