VisualThinker-R1-Zero 是一个聚焦于多模态视觉推理的研究型开源项目,目标是在视觉推理任务中复现 DeepSeek-R1-Zero 的训练范式。
用途方面,该项目致力于探索并验证:在视觉推理任务中,是否也能像纯文本推理那样,通过纯强化学习(无需 SFT、无需奖励模型)让模型自发涌现出“顿悟时刻”与更长的推理响应。研究团队首次在仅 2B 参数的非 SFT 多模态模型上成功观察到了这一现象。
主要能力方面,项目基于 Qwen-VL-2B 模型,采用 GRPO 强化学习算法在 SAT 数据集上进行训练。研究显示,视觉为中心的任务同样可以从增强的推理能力中受益;训练过程中还观察到了与 DeepSeek R1 类似的自我反思行为,模型能够重新思考并修正自己的错误。项目提供了完整的训练动态记录,并开源了模型检查点(发布在 Hugging Face)。
使用方式方面,项目仓库提供了复现训练与评估所需的具体代码命令:包括在 SAT 数据集上用 GRPO 训练非 SFT 模型以复现多模态顿悟时刻;训练非 SFT 模型以获得用于对比的 SFT 模型;以及用于在 CVBench 上复现评估结果的命令,分别覆盖 Base + GRPO(VisualThinker R1 Zero)模型、Base 模型、Instruct + GRPO 模型和 Instruct 模型。完整实验日志标注为“即将发布”。
适用场景方面,该项目主要面向从事多模态视觉推理、强化学习训练、模型涌现行为研究的研究人员与开发者,可用于复现实验、对比不同训练策略,以及在此基础上开展进一步研究。
限制方面,项目资料仅说明了其研究方法、训练命令与评估流程,未提供关于收费、商业使用授权、部署平台或性能指标的具体信息;此外,完整实验日志与部分其他信息暂未提供。