Tina 是一个专注于小型推理模型的研究项目,其论文《Tina: Tiny Reasoning Models via LoRA》已被 ICLR 2026 接收。该项目的核心目标是回答一个关键问题:如何以高性价比的方式通过强化学习为语言模型高效注入推理能力?
具体而言,Tina 探索在强化学习过程中使用低秩适应(LoRA)来增强小型语言模型的推理能力。实验结果显示,Tina 模型在相同基座模型上,性能可与全参数训练的 SOTA 基线模型相媲美,甚至在某些情况下更优。尤其值得注意的是,最佳 Tina 模型在 AIME24 基准上实现了超过 20% 的性能提升,Pass@1 准确率达到 43.33%。在成本方面,复现最佳 Tina 检查点仅需约 9 美元,而从零复现所有实验的总成本约为 526 美元。
项目代码基于 HuggingFace 的 open-r1 项目构建,采用 GRPO 算法进行 LoRA 强化学习训练。仓库中提供了主要的环境变量脚本、每个实验的配方、核心配置文件和数据集常量,用户可根据自身设置修改相关路径和 HuggingFace Hub ID。训练与评估流程通过脚本执行,包括 LoRA-based RL with GRPO 训练、基线模型重新评估和后训练模型评估。
该项目的适用场景主要为研究环境,适合对强化学习、参数高效微调以及小型语言模型推理能力提升感兴趣的研究人员和开发者。由于涉及具体的训练和评估步骤,使用前需要具备一定的机器学习与深度学习基础,并按照文档配置环境和依赖。项目目前提供的信息以代码仓库和论文为主,更多关于模型细节、数据集使用和实验设置的说明,建议参考原论文和仓库中的配置文件。