ChatLearn 是阿里云 PAI 平台开发的大规模强化学习训练框架,主要用于大语言模型(LLM)的对齐任务。该项目在 GitHub 上开源,仓库地址为 https://github.com/alibaba/ChatLearn。
用途方面,ChatLearn 面向 LLM 的强化学习训练与对齐,支持从 GRPO 等算法出发进行端到端训练流程,适用于需要大规模分布式强化学习训练的场景。官方于 2024 年 8 月正式发布 ChatLearn。
主要能力包括:
- 用户友好的编程接口:用户只需封装少量函数来编写单个模型,系统负责资源调度、数据与控制流传输以及分布式执行。
- 可扩展的训练方法:支持用户自定义模型执行流程,使定制化训练过程更灵活便捷。
- 多样的分布式加速引擎:支持业界领先的训练引擎(FSDP2、Megatron)与推理引擎(vLLM、SGLang),推理引擎可通过运行时参数 runtime_args.rollout_engine 控制。
- 灵活的并行策略与资源分配:支持针对不同模型配置采用不同并行策略,以适应各模型的计算、内存与通信特性;同时支持模型间独占或共享资源的调度机制,实现高效的串行/并行执行与 GPU 显存共享优化。
- 高性能:相比当前 SOTA 系统,在 7B+7B(策略模型+奖励模型)规模下性能提升 52%,在 70B+70B 规模下提升 137%;支持超过 600B 参数的强化学习训练。在 8 GPU、7B+7B 配置下实现 115% 加速,在 32 GPU、70B+70B 配置下加速 208%(对比 DeepSpeed-Chat 与 OpenRLHF,且后两者性能已优化)。
功能特性包括:支持 Megatron 和 FSDP 等训练引擎;支持 vLLM 和 SGLang 等推理引擎;支持 GRPO、GSPO 等强化学习算法;支持 wandb 和 tensorboard 实验监控;支持序列打包(sequence packing)、Ulysses 序列并行、Group GEMM 等训练加速技术。
更新记录显示:2024 年 8 月正式发布;2025 年 5 月支持 FSDP 与 Mcore 框架训练,并基于 FSDP+vLLM 和 Megatron+vLLM 提供 Qwen3 端到端 GRPO 训练教程;2025 年 7 月支持 FSDP2,提供 Qwen3-235B-A22B 基于 Mcore 和 FSDP2 的强化学习训练示例、DeepSeek-V3-671B 基于 Mcore 的强化学习训练示例,以及序列打包、序列并行、Group GEMM 等;2025 年 8 月支持 Mcore 上的 GSPO;2025 年 9 月支持 Agentic RL 任务与视觉语言模型 RL 任务;2025 年 10 月通过上下文并行与序列打包改进 MLA 模型(如 Moonlight/DeepSeek-V3)的 RL 训练稳定性与效率。
使用方式方面,官方提供快速入门文档,包含环境与代码设置,并给出基于 FSDP+vLLM 与 Megatron+vLLM 的 Qwen3 模型端到端 GRPO 训练流程教程。推理引擎通过 runtime_args.rollout_engine 参数控制。
适用场景包括:大规模 LLM 强化学习对齐训练、需要自定义模型执行流程的训练任务、Agentic RL 任务、视觉语言模型 RL 任务,以及需要高吞吐分布式训练与灵活资源调度的场景。
限制方面,资料中未明确说明系统要求、硬件最低配置、许可证类型及具体的安装命令细节,这些信息暂未提供。官方列出未来计划包括简化配置设置、支持 MoE 模型 RL 训练教程、支持更多模型、性能优化以及支持更多 RL 算法。