该项目是围绕 OpenAI o1 的相关工作与背景技术整理而成的资料仓库,内容以论文列表形式组织,涵盖 LLM 推理、自我对弈强化学习、复杂逻辑推理、缩放定律等方向。仓库按主题分区,包括复杂逻辑推理、推理自举(Reasoning Bootstrapping)、推理缩放定律(Reasoning Scaling Law)、自我对弈学习(Self-play Learning)、逐步与过程优化(Step-wise and Process-based Optimization)、数学以外的应用(Applications beyond Math),以及开源项目(Open-source Projects)。
在复杂逻辑推理部分,收录了自动定理证明的生成式语言建模、Hypothesis Search、归纳推理能力测试、数学应用题训练验证器、以及关于 Chain-of-thought(CoT)主要帮助数学与符号推理的讨论等论文。推理自举部分包括 STaR、Quiet-STaR、通过隐变量推断训练思维链、无提示的思维链推理、互推理提升小模型解题能力等工作。推理缩放定律部分涉及重复采样扩展推理计算、测试时计算与模型参数缩放对比、计算最优推理实证分析、通过强化学习训练模型自我纠错、以及从 Medprompt 到 o1 的运行时策略探索。
自我对弈学习部分收录了 AlphaZero 类工作、语言模型自我编程、LLM 自我改进、自我对弈微调、自我对弈偏好优化、可扩展在线规划、生成式验证器、蒙特卡洛树自我精炼、可解释对比蒙特卡洛树搜索推理等。逐步与过程优化部分包含过程与结果反馈解数学题、快慢思考与树搜索、逐步验证、OVM、LLM 评论家、自批评模型、自动化过程监督、Q*、Math-shepherd 等。数学以外应用部分包含医疗复杂推理的 HuatuoGPT-o1、编程方向的 o1-Coder。开源项目列出 O1-Journey、OpenReasoner、HuatuoGPT-o1。
使用方式:主要作为研究资料索引,浏览仓库中的论文标题、作者与机构信息,通过链接访问对应论文。该仓库为论文与资料汇总,不提供可直接运行的工具或模型。适用场景为研究人员、开发者了解 OpenAI o1 相关推理技术脉络与背景文献。限制:资料中未提供具体实现方法、数据集、安装命令或使用步骤;也未提供收费、价格、平台或效果等信息,这些内容暂未提供。