Fin-R1 是一款针对金融领域复杂推理的大型语言模型,由上海财经大学统计与数据科学学院张立文教授与其领衔的金融大语言模型课题组(SUFE-AIFLM-Lab)联合财跃星辰研发并开源发布。模型以 Qwen2.5-7B-Instruct 为基座,采用轻量化的 7B 参数量级架构,在显著降低部署成本的同时,通过高质量可验证金融问题的微调训练,最终表现在多个金融领域基准测试上达到参评模型的 SOTA 水平。
【用途】 Fin-R1 专为金融推理领域设计,通过在针对金融推理场景的高质量思维链数据上采用 SFT(监督微调)和 RL(强化学习)两阶段训练,为模型在金融领域的应用提供理论支撑、业务规则、决策逻辑以及技术实现能力,从而有效提升金融复杂推理能力,为银行、证券、保险以及信托等金融核心业务场景提供支持。
【主要能力】 模型覆盖以下场景应用:金融代码、金融计算、英语金融计算、金融安全合规、智能风控、ESG分析。 其中,金融代码指在金融领域中用于实现各种金融模型、算法和分析任务的计算机编程代码,涵盖从简单财务计算到复杂金融衍生品定价、风险评估和投资组合优化等多个方面;金融计算是对金融领域各种问题进行定量分析和计算的过程,核心在于建立数学模型和运用数值方法解决实际金融问题;英语金融计算强调在跨语言环境下使用英语进行金融模型构建和计算,并能以英语撰写金融分析报告和与国际同行沟通交流;金融安全合规聚焦于防范金融犯罪与遵守监管要求,帮助企业建立健全的合规管理体系;智能风控利用AI与大数据技术识别和管理金融风险,具有更高的效率、准确性和实时性;ESG分析通过评估企业在环境、社会、治理方面的表现,衡量其可持续发展能力。
【数据构建】 团队基于 DeepSeek-R1 构建了数据蒸馏框架,严格按照官方参数设定进行数据处理,采用两阶段数据筛选方法提升金融领域数据质量,生成SFT数据集和RL数据集。用 DeepSeek-R1(满血版)针对涵盖行业语料(FinCorpus、Ant_Finance)、专业认知(FinPEE)、业务知识(FinCUGE、FinanceIQ、Finance-Instruct-500K)、表格解析(FinQA)、市场洞察(TFNS)、多轮交互(ConvFinQA)以及量化投资(FinanceQT)的多个数据集进行领域知识蒸馏筛选,构建了约 60k 条面向专业金融推理场景的高质量 COT 数据集 Fin-R1-Data。该数据集涵盖中英文金融垂直领域的多维度专业知识,分为金融代码、金融专业知识、金融非推理类业务知识和金融推理类业务知识四大模块。
数据筛选创新性提出对思维链进行“答案+推理”双轮质量打分筛选方法:首轮基于规则匹配和 Qwen2.5-72B-Instruct 对答案准确性评分;次轮对推理链的逻辑一致性、术语合规性等推理逻辑进行深度校验。每一轮打分筛选出的数据标注为 good 或 bad 进行区分。推理过程打分采用内部一致性、术语重叠度、推理步骤数量、逻辑一致性、内容多样性、与任务领域的相关性、与任务指令的一致性等指标。经过两轮筛选后均标注为 good 的数据作为高质量 COT 数据用于 SFT;未经过筛选标注为 bad 的数据则作为推理QA数据用于强化学习(RL)。
【训练方式】 针对金融领域复杂推理任务,利用 Qwen2.5-7B-Instruct 进行两阶段微调训练:第一阶段使用 ConvFinQA 和 FinQA 金融数据集进行监督微调(SFT),帮助模型初步提升金融推理能力;第二阶段在 GRPO(Group Relative Policy Optimization)算法基础上结合格式奖励和准确度奖励进行强化学习,并引入基于模型的验证器(Model-Based Verifier),采用 Qwen2.5-Max 进行答案评估以改进基于正则表达式的奖励可能存在的偏差,从而提升强化学习的效果和稳定性。
【模型评测结果】 在覆盖多项金融业务场景的基准测试上,只经过指令微调(SFT)的模型 Fin-R1-SFT 相较于基础模型已有一定性能提升;在 Fin-R1-SFT 基础上再进行强化学习训练后的 Fin-R1,以仅 7B 的轻量化参数规模达到 75.2 的平均得分,位居第二,全面超越参评的同规模模型,与行业标杆 DeepSeek-R1 平均分差距仅 3.0,且超越 DeepSeek-R1-Distill-Llama-70B(69.2)6.0 分。在聚焦真实金融表格数值推理任务的 FinQA 以及多轮推理交互场景的 ConvFinQA 两大关键任务测试上分别以 76.0 和 85.0 的得分在参评模型中登顶第一。
【使用方式】 模型权重可直接从 huggingface 下载。项目的具体依赖环境配置与安装命令等使用说明,资料中仅提及“准备好依赖环境,采用如下命令一键安装 vllm”,未提供完整安装命令与其它步骤细节。
【适用场景】 适用于银行、证券、保险、信托等金融核心业务场景,包括金融代码编写、金融计算、英语金融计算、金融安全合规、智能风控、ESG分析等。
【限制与声明】 Fin-R1 作为金融领域的推理型大语言模型,虽能完成诸多金融任务,但现阶段仍存在技术瓶颈与应用限制。它提供的建议和分析结果仅供参考,不可等同于专业金融分析师或专家的精准判断。用户应以批判性思维审视模型输出,结合自身专业知识与经验进行决策。项目由上海财经大学统计与数据科学学院金融大语言模型课题组(SUFE-AIFLM-Lab)联合财跃星辰完成,可通过 zhang.liwen@shufe.edu.cn 联系。