Baichuan-M1-14B 是由百川智能开发的业界首款从零开始专为医疗场景优化的开源大语言模型，在保持卓越通用能力的同时，在医疗领域具备强大性能。据官方资料，该模型在大部分通用榜单评测中达到同尺寸模型的效果，而在医疗场景中达到 5 倍甚至更大模型的水平。
【主要能力】 模型基于 20 万亿 token 的高质量医疗与通用数据训练，针对 20 多个医疗科室进行细粒度医疗专业建模，引入创新模型结构，显著提升上下文理解和长序列任务表现，并提供 Base 模型与 Instruct 模型两个版本。
【医疗数据构建】 针对医疗领域进行了细致的数据收集与合成，包括：千万级专业医疗数据（中英文专业论文、医疗病例、医疗教材、知识库等）；亿级医疗问答与临床数据（涵盖复杂医疗推理与实际临床案例）；全面的数据分类与评估（按医疗科室、内容和价值分类，确保数据分布均衡）；合成数据设计（利用教材、指南、知识库、论文等医学知识文本及结构化知识图谱和临床病历生成多样化高质量医疗推理数据）；自我反思机制与奖励模型（不断提升合成数据质量，最终生成近万亿 token 的医疗数据，覆盖长尾知识与复杂场景）。
【通用数据构建】 20T 多语言通用数据集，包括 14T 英文数据、4T 中文数据、2T 涵盖 30 种主流语言的数据；采用去重与上采样策略；基于 27 类全球知识分类，通过小模型实验优化数据配比，确保通用能力与领域能力的平衡。
【模型结构创新】 通过在计算 Key 和 Value 时引入轻量化短卷积操作，显著降低标准 Transformer 模型对 induction heads 机制学习的依赖，提升上下文学习能力；在部分层采用滑动窗口注意力机制，减少 KV Cache 内存占用，在计算效率和性能之间取得平衡，适用于长序列任务；通过增大部分注意力头的维度，降低 RoPE 曲线震荡，使长序列任务表现更稳定；采用 WSD 学习率调度策略，使用高峰值学习率促进模型泛化能力；动态梯度剪裁在梯度过大时动态选择是否跳过更新，减少不稳定。
【训练与对齐】 采用多阶段课程学习与对齐优化方法。训练分为三个阶段：通识能力提升阶段、医疗基础知识提升阶段、医疗进阶知识提升阶段。对齐优化通过强化学习和偏序对数据提升生成质量、逻辑推理能力和用户偏好贴合度，包括 ELO（基于最大似然优化多样化高质量思维链生成）、TDPO（使用偏序对数据优化生成模型）、PPO（通过策略优化增强生成逻辑与任务表现）。
【使用方式】 推荐使用最新版 Hugging Face Transformers 库（至少 4.47.0），官方提供 Baichuan-M1-14B-Instruct 模型的使用代码片段。文档提到正在向 vLLM 社区提交对 Baichuan-M1 的推理支持，后续可使用 vLLM 官方版本。MindIE 框架支持 Baichuan-M1 在华为昇腾芯片上的推理，使用方法参考 MindIE Baichuan-M1-14B-Base；openMind 微调套件支持该系列模型的微调，使用方法参考 openMind Baichuan-M1-14B。
【商业使用与合规】 如将 Baichuan-M1 模型或其衍生品用作商业用途，需联系许可方：opensource.contact@baichuan-inc.com，具体信息见《Baichuan-M1-14B 模型社区许可协议》。所有使用者需遵循法律法规，不得将模型用于危害国家安全或违法用途。官方还提供了引用格式。
【适用场景与限制】 该模型适用于医疗场景下的推理、问答与临床相关任务，同时具备通用语言能力，可用于通用语言建模。其限制方面，官方资料未详细列出具体不足；部分框架支持（如 vLLM）尚在提交中，具体可用性暂未提供。