open-r1-multimodal
AI开发平台open-r1-multimodal 是 Hugging Face open-r1 项目的一个分支,旨在将 DeepSeek-R1 的范式扩展至多模态模型,加入多模态模型训练支持。项目基于 huggingface/open-r1 与 deepseek-ai/DeepSeek-R1 实现多模态 R1,集成了 transformers 中可用的 Qwen2-VL 系列、Aria-MoE 等视觉语言模型(VLM),并采用 GRPO 算法进行训练。项目开源了首批 8k 多模态 RL 训练样例,聚焦数学推理,数据由 GPT4o 基于 Math360K 与 Geo170K 生成,包含推理路径与可验证答案;同时开源了使用 GRPO 训练的 lmms-lab/Qwen2-VL-2B-GRPO-8k 与 lmms-lab/Qwen2-VL-7B-GRPO-8k 模型。仓库提供数据检查与自定义生成的脚本,以及针对 8 张 H100 GPU 节点的训练命令参考。