SuperAPI AI 工具集

Open-O1

Open-O1 是一个开源项目,旨在通过开源创新复现 OpenAI O1 模型的长推理与问题解决能力。项目通过整理一套用于思维链(CoT)激活的 SFT 数据,并以此训练 LLaMA 和 Qwen 模型,使较小模型获得增强的长推理表现。项目提供 OpenO1-LLaMA-8B-v0.1 和 OpenO1-Qwen-7B-v0.1 两个模型,以及用于 CoT 激活的 OpenO1 SFT 数据,均可在 HuggingFace 获取。官方评估显示,其模型在 GSM8K、MATH、MMLU、ARC-C、BBH 等基准上取得有竞争力的结果,部分指标优于 llama3.1-8b-instruct。项目为非营利性质,欢迎社区参与,并将持续开源开发过程中的代码与材料。

访问官网

工具介绍

Open-O1 是一个非营利性开源项目,目标是对标 OpenAI O1 模型的能力,为社区提供先进的开源替代方案。项目通过构建用于思维链(CoT)激活的 SFT 数据集,并利用该数据训练 LLaMA 和 Qwen 模型,从而赋予较小模型更强的长推理与问题解决能力。

主要能力与产出 项目已发布两个模型:OpenO1-LLaMA-8B-v0.1 与 OpenO1-Qwen-7B-v0.1,可在 HuggingFace 获取;同时开源了用于 CoT 激活的 OpenO1 SFT 数据,供社区下载使用。根据官方描述,OpenO1 主要展现出类 O1 的推理特征和较广的搜索式思考能力。官方基准测试(零样本设定)显示:GSM8K 得分 85.82,MATH 得分 52.88,MMLU 得分 70.45,Hellaswag 得分 67.77,ARC-C 得分 86.52,BBH 得分 58.43;在 MATH、MMLU、ARC-C、BBH 等基准上优于 llama3.1-8b-instruct(其中 llama3.1-8b-instruct 的 MATH 官方成绩 51.9 来自 CoT 设定,复现的零样本成绩为 47.42)。

使用方式 若要本地部署,官方提供以下步骤:1)克隆该 GitHub 仓库;2)安装 Deployment/requirements.txt 中列出的依赖;3)执行仓库提供的脚本。可选模型为 OpenO1-Qwen-7B-v0.1 或 OpenO1-LLaMA-8B-v0.1。Open O1 的聊天模板遵循 LLaMA3.1 的模板,具体细节可在 chat-templates 中获取。官方提醒:HuggingFace 上部署的模型可能经过量化,可能导致一定性能下降;如需体验原始性能,建议在自有基础设施上部署。

适用场景与开发状态 Open O1 目前处于早期开发阶段,官方表示尚未完全达到 O1 能力水平,但已迈出重要一步。首版在 LLaMA 和 Qwen 上展示了性能提升,风格上接近 O1。项目欢迎社区加入,并将持续开源开发过程中的所有代码与材料,相关问题和反馈可通过 GitHub Issues 提交,建议先查看 FAQ 与既往 issue,并使用专用模板。该项目为非营利性质。

限制与尚未提供的信息 官方明确当前模型尚未达到 O1 级别;HuggingFace 部署版本可能因量化而性能下降。除上述内容外,关于训练数据的完整构成、超参数细节(页面标注“Summarizing and updating...”)、收费与价格、商用授权等,资料暂未提供。