SuperAPI AI 工具集

Vision-R1

Vision-R1 是一个面向多模态大语言模型(MLLM)的推理能力增强项目,由相关研究团队提出并开源。它是首个探索如何将类 R1 的强化学习有效应用于多模态大语言模型的工作,通过冷启动初始化与强化学习训练相结合的方式,激励模型产生推理能力。项目提供了冷启动数据集 Vision-R1-cold、强化学习数据集 Vision-R1-rl,以及多个规模的模型权重(Vision-R1-CI-7B、Vision-R1-7B、Vision-R1-32B、Vision-R1-72B),并开源了推理代码、评估代码与训练脚本。该工作已被 ICLR 2026 接收。

访问官网

工具介绍

Vision-R1 是论文《Vision-R1: Incentivizing Reasoning Capability in Multimodal Large Language Models》的官方代码仓库,已被 ICLR 2026 接收。该项目致力于探索如何将类似 DeepSeek-R1 的强化学习范式有效应用于多模态大语言模型(MLLM),从而激励其推理能力。

【用途】 Vision-R1 的核心目标是提升多模态大语言模型的推理能力。它通过冷启动初始化(cold-start initialization)与强化学习(RL)训练相结合的两阶段流程,构建一个具备推理能力的多模态模型。

【主要能力】

  • 冷启动初始化:先利用现有 MLLM 与 DeepSeek-R1 生成高质量的多模态思维链(CoT)数据集,作为基座 MLLM 的冷启动初始化数据,得到 Vision-R1-CI。
  • 强化学习训练:在 Vision-R1-CI 基础上进行 RL 训练,得到最终推理模型 Vision-R1。项目提出了 PTST 策略,逐步放宽上下文长度限制(4K、8K、16K tokens),以渐进方式获取更复杂的推理过程。
  • 交错推理生成:支持交错式推理生成与展示。
  • 模型规模:提供 Vision-R1-CI-7B、Vision-R1-7B、Vision-R1-32B、Vision-R1-72B 等权重。其中 32B 与 72B 在 RL 训练中使用了额外数据。
  • 数据集:提供冷启动数据集 Vision-R1-cold 与强化学习数据集 Vision-R1-rl。Vision-R1-cold 的图像可来自 LLaVA-CoT-100k 与 Mulberry-SFT,需分别放入 llava_cot_images 与 mulberry_images 目录。Vision-R1-rl 采用 geometry3k 格式。
  • 推理与评估:开源了推理代码、脚本与评估代码,支持 vLLM 部署(要求 vllm>0.7.2),可启动 OpenAI 兼容 API 服务,也支持本地推理。推理时使用与 DeepSeek-R1 相同的 temperature 与 top_p。
  • 训练工具:冷启动阶段使用 LLaMA-Factory 训练 Vision-R1-CI,训练脚本位于 train/cold_start;RL 阶段可使用 EasyR1 或 verl 完成训练。

【使用方式】

  1. 下载冷启动数据集 Vision-R1-cold,并从 LLaVA-CoT-100k 与 Mulberry-SFT 获取图像,放入对应目录。
  2. 使用 LLaMA-Factory 与 train/cold_start 下的脚本训练冷启动模型,可使用 8*4 或 8 张 80G 显存 GPU。需替换 train.yaml 中的数据集路径。
  3. 使用 Vision-R1-rl 数据集,通过 EasyR1 或 verl 进行 RL 训练。
  4. 推理时可使用项目提供的 scripts/inference.sh 脚本,或采用 vLLM 部署 OpenAI 兼容 API 服务并进行对话调用。
  5. 评估代码位于 evaluation/ 目录。

【适用场景】 适用于多模态大语言模型的推理能力研究、数学推理等需要多模态思维链的任务,以及希望复现或基于 Vision-R1 进行二次开发的科研与工程场景。

【限制与说明】 论文指出,直接将 RL 应用于 MLLM 难以有效激励强推理能力;无初始化训练的 Vision-R1-Zero 在有限数据上泛化困难;Vision-R1-CI 存在过度思考优化问题,偏好较短 CoT,后续 RL 训练中推理步骤变长但性能下降。Vision-R1 在 RL 训练初期会缩短 CoT 以精炼正确思考过程,PTST 使模型逐步获得更复杂推理过程。此外,项目提到正尝试将训练扩展到低资源设置,目标是用 8 张 GPU 完成整个冷启动与 RL 训练过程。72B 模型的训练与发布进展、完整的数据集与代码、权重发布状态等,以仓库实际信息为准;部分内容资料中标注为计划或进行中。