用途:当目标任务的成功与否可由算法判定(单元测试通过、解析器接受输出、工具调用匹配预期 schema、数学答案匹配标准答案)时,用 GRPO 与可验证奖励强化学习(RLVR)训练推理与可验证任务行为。若评分需人工判断或主观标准,应先解决评测框架与评判校准问题,而非直接上 RL。
前提:模型必须已能偶尔成功完成目标任务。RL 只是对已有能力重新加权,无法从零安装能力。若模型在低温度多样本下从不成功,说明是格式或任务理解缺口,应先回到 SFT,待基础成功率非零后再使用本技能。若成功不稳定,则正是 GRPO 的适用区间。整体原则:偏好用 DPO,推理用 GRPO。
主要能力:给出可直接被训练工程消费的经校验 GRPO 配置(含 references/grpo-memory.md 中的参数值与 references/reward-functions.md 中的奖励函数),而非自由建议。参考配方基于 TRL 的 GRPOTrainer 与 vLLM 生成,关键参数包括 use_vllm=True、vllm_mode="colocate"(单 GPU)或 "server"(多 GPU)、num_generations=8(下限)、learning_rate=5e-7、beta=0.01、bf16=True 等。奖励为复合式:格式奖励加正确性奖励。
使用方式:先确认存在可验证的通过/失败信号与验证器;按参考配方配置 GRPOTrainer,train_dataset 仅含 prompt;在正式训练前执行强制检查门——对 50–100 条采样输出人工阅读奖励函数判定结果,若与人工判断不一致,先修奖励函数。基础配方稳定后再按具体失败模式选择变体:熵崩溃或长思维链退化用 DAPO;奖励或输出长度随质量无关上升用 Dr.GRPO;训练 MoE 模型用 GSPO。不要预先选择变体。
限制:视觉语言 RL 在 v1 中仅为参考说明,不可执行,工具链分散且易出现只优化文本推理而忽略图像的奖励黑客问题。内存规模、vLLM 睡眠模式、优化器状态等细节见参考文件;DGX Spark 上的内存与散热问题需参考 dgx-spark-ops 插件。