用途:为 Megatron Bridge 用户推荐并定制训练配方。使用前需向用户询问模型名称/规模、GPU 数量与类型、训练目标(pretrain/SFT/PEFT)以及非默认序列长度,然后在索引中查找最佳匹配,给出配方函数名与入口命令,并提供并行度调整、批大小调优和常见陷阱建议。
主要能力:区分库配方(src/megatron/bridge/recipes/,用于功能性训练,入口 scripts/training/run_recipe.py)与基准配方(src/megatron/bridge/perf_recipes/,用于吞吐量上限基准,不代表生产训练配置)。索引覆盖 Llama、Qwen2/2.5/3、Qwen3 MoE、Qwen3-Next、DeepSeek、GLM-4.5、Gemma、NemotronH、Moonlight、OLMoE、GPT-OSS、Kimi K2 及 VLM、扩散模型等。
必要用法:首次冒烟测试推荐 llama3_8b_pretrain_config 配合 --dataset mock;常规 SFT 选 --dataset squad 或 --dataset tulu3;预训练与 mock 验证用 --dataset mock,且不要将仅预训练的 mock 预设与 SFT/PEFT 模式搭配。库配方示例:uv run python -m torch.distributed.run --nproc_per_node=8 scripts/training/run_recipe.py --recipe <recipe_function_name> --dataset mock。基准配方示例:./scripts/training/train.sh --nodes 2 --gpus-per-node 8 --account ACCOUNT --partition PARTITION --container-image IMAGE --recipe qwen3_30b_a3b_pretrain_16gpu_h100_bf16_config --mode pretrain。
调整规则:TP 必须整除 num_key_value_heads;除非使用 NVL72 级互连,TP 保持单节点内;TP>1 时启用 SP;长上下文配置 CP;DP 隐式;OOM 时优先降低 micro_batch_size。需说明每个覆盖是否改变收敛契约。
限制:基准配方使用 mock 数据、强制均衡等仅适用于吞吐量测量,其损失与检查点不构成收敛证据;不同架构或分词器的绝对损失不可直接比较。资料未提供具体收费、价格与平台支持信息。