LLaMA-O1 是一个开源的大型推理模型框架，专注于训练、推理和评估，基于 PyTorch 和 HuggingFace 构建。项目由 SimpleBerry 维护，目标是为开源社区提供大型推理模型（Large Reasoning Models）的完整解决方案。
主要能力包括：
- 长链思维（Long CoT）标记：已完成。
- 预训练数据集：已完成，可在 HuggingFace 上获取（OpenLongCoT-Pretrain-1202）。
- 监督微调数据集：已完成，可在 HuggingFace 上获取（OpenLongCoT-SFT）。
- PRM 令牌修正数据集：已完成。
- 自玩强化学习（Reinforcement Learning With Self-Play）：代码已完成，正在训练中。
- 推理时推理增强框架：代码已完成，暂时推迟。
使用方式： 用户可以通过 HuggingFace 获取模型和数据集。具体包括：
- 基础模型（预训练）：https://huggingface.co/SimpleBerry/LLaMA-O1-Base-1127
- 监督微调模型：https://huggingface.co/SimpleBerry/LLaMA-O1-Supervised-1129
- 监督微调数据集：https://huggingface.co/datasets/SimpleBerry/OpenLongCoT-SFT
- 预训练数据集：https://huggingface.co/datasets/SimpleBerry/OpenLongCoT-Pretrain-1202
- GGUF 格式模型：https://huggingface.co/Lyte/LLaMA-O1-Supervised-1129-Q4_K_M-GGUF
- 在线演示（仅 CPU）：https://huggingface.co/spaces/SimpleBerry/LLaMA-O1-Supervised-1129-Demo
此外，项目还提供了相关研究论文链接：
- https://huggingface.co/papers/2406.07394
- https://huggingface.co/papers/2410.02884
- https://huggingface.co/papers/2411.18203
适用场景： LLaMA-O1 适用于研究人员和开发者进行大型推理模型的训练、微调、推理和评估。它特别适合需要长链思维推理能力的任务，如复杂问题求解、数学推理等。
限制：
- 部分功能（如强化学习）仍在进行中，尚未完全发布。
- 推理时推理增强框架暂时推迟。
- 在线演示仅支持 CPU 运行，可能性能有限。
- 具体训练细节、硬件要求、使用步骤等资料中暂未提供。
