SuperAPI AI 工具集

TinyZero

TinyZero 是一个对 DeepSeek R1-Zero 进行极简复现的开源项目,基于 veRL 构建,在倒计时(countdown)和乘法任务上通过强化学习训练基础语言模型。项目展示了 3B 基础模型仅通过 RL 即可自行发展出自我验证与搜索能力,并宣称以低于 30 美元的成本即可体验所谓的“Aha moment”。该仓库目前已不再积极维护,官方建议进行 RL 实验时直接使用最新的 veRL 库,原始文档已归档至 OLD_README.md。项目还发布了 Adaptive Parallel Reasoning 相关工作,探索推理模型扩展的新维度。

访问官网

工具介绍

TinyZero 是一个对 DeepSeek R1-Zero 的极简复现项目,托管在 GitHub 上(https://github.com/Jiayi-Pan/TinyZero)。项目基于 veRL 构建,目标是在倒计时(countdown)和乘法(multiplication)任务上复现 DeepSeek R1 Zero 的强化学习训练效果。

主要能力方面,项目展示了通过强化学习,3B 基础语言模型能够自行发展出自我验证和搜索能力。项目宣称可以以低于 30 美元的成本体验“Aha moment”。相关实验记录发布在 Weights & Biases(https://wandb.ai/jiayipan/TinyZero),并在 Twitter 上有对应讨论帖(https://x.com/jiayi_pirate/status/1882839370505621655)。项目还发布了 Adaptive Parallel Reasoning,探索推理模型扩展的新维度。

使用方式上,项目提供了数据准备(Data Preparation)相关说明。对于代码运行中出现的显存不足(out-of-VRAM)问题,建议在脚本中添加 critic.model.enable_gradient_checkpointing=True,并参考相关讨论。项目说明该方案适用于模型规模不超过 1.5B 的情况;对于 Qwen2.5-0.5B 基础模型,已知其无法学会推理。3B 及以上模型的情况下,基础模型能够发展出复杂的推理技能。项目还进行了 Instruct 消融实验,使用 Qwen-2.5-3B Instruct 进行实验,并说明为遵循聊天模板需要重新处理数据。

适用场景主要是强化学习实验、推理能力研究以及 DeepSeek R1-Zero 的复现研究。

限制方面,仓库顶部有明确的弃用通知(Deprecation Notice):该仓库已不再积极维护,进行 RL 实验时建议直接使用最新的 veRL 库,原始文档已归档至 OLD_README.md。此外,项目对模型规模有要求,0.5B 基础模型无法学会推理,1.5B 及以下模型需要额外配置以应对显存问题。

致谢部分提到,实验基于 veRL 运行,并使用 Qwen2.5 系列基础模型。