用途:整理 MiniMaxAI/MiniMax-M2 系列在 SGLang 中的优化路径,覆盖主线历史、尚未完全合并的上游 PR,以及当前 main 的验证通道(含 AMD 精度与性能 lane)。适用于恢复、扩展或审计 MiniMax 专属优化,并把排查顺序与验证纪律复用到结构相似的 MoE 模型。
主要能力:按 M2 核心演进、M2.5 扩展、M2.7 当前主线验证三条路径组织。M2 路径从基础支持、RMSNorm 精度修复、Eagle3 捕获面暴露、MoE 路径正确性,到 QK norm 热路径特化与分段 CUDA graph、流水并行加固。M2.5 路径关注 loader 契约、量化加载缺口、PP/EP/DP/DeepEP 分布式契约、DP-attention 与 DEP 通信优化、融合 JIT TP QK norm、TP16 与 KV 头复制正确性、非 Blackwell 的 NVFP4 Marlin 回退。M2.7 作为独立验证目标,当前复用 M2 家族运行时,具备 AMD 注册 lane。
使用方式:改动前先记录服务形态(型号与 instruct/reasoning、量化格式、TP/DP/EP/PP 拓扑、DP attention、MoE/attention 后端、分段 CUDA graph、投机解码、硬件后端、launch parser 对、验证套件)。按“确认 loader 与拓扑契约、修正正确性、去除热路径通用开销、再做内核或通信特化、在触发问题的确切拓扑上验证”的顺序推进。涉及工具调用与思考行为时保留 --tool-call-parser minimax-m2 与 --reasoning-parser minimax-append-think;M2.7 AMD 测试使用 --tp 8、--ep-size 8、--attention-backend aiter、SGLANG_USE_AITER=1、--mem-fraction-static 0.85。
适用场景与限制:适用于同具 QK normalization 且受 TP 通信支配、num_key_value_heads 小于 tp_size 的 KV 头复制、无 DeepSeek 式共享专家的稀疏 MoE、attention TP 不等于 model TP、依赖打包或融合模块映射的量化 MoE 等特征的模型。不得假定 PR 页面的优化已在本地树中,也不得因 M2.5 测试通过就认为 M2.7 已验证;部分 M2.5 量化加载、DP-attention 与通信优化仍属未完全合并的上游 PR。参考资料为 references/pr-history.md 与 references/playbook.md;具体超参数、硬件支持范围与更多命令暂未提供。