SuperAPI AI 工具集

model-merging

通用与其它

查看项目

更新于 10-15 20:21

技能介绍

用途:把多个同架构的微调模型合并为一个模型,在不重新训练的前提下融合不同领域能力(如数学、代码、对话),也可用于减少灾难性遗忘、快速生成模型变体。

主要能力:支持 linear(加权平均,适合多个相似模型)、slerp(球面插值,适合两个模型)、task_arithmetic(任务向量加减)、ties(稀疏化并解决符号冲突,适合多任务模型)、dare_ties(随机丢弃并重缩放增量,降低冗余)等合并方法;支持按层合并(slices、passthrough)、构建 MoE、合并 tokenizer,以及 bfloat16/float16/float32 精度选择。

使用方式:安装可用 git clone https://github.com/arcee-ai/mergekit.git 后 pip install -e .,或直接 pip install mergekit。编写 YAML 配置(指定 merge_method、models 及 weight/density、base_model、dtype 等),执行 mergekit-yaml config.yml ./merged-model --cuda 生成合并模型,再用 transformers 加载评估。

适用场景:需要组合多个领域专长模型、在有限算力下快速试验模型变体、希望保留多项技能而不重训。

限制:只能合并架构相同的模型(如 Llama 与 Mistral 不兼容);权重需合理设置,避免单一模型权重过高;合并后必须做基准测试再部署;TIES/DARE 的 density 需调参;资料未提供具体收费、价格与平台支持信息。