SuperAPI AI 工具集

minicpm5-finetune

通用与其它

查看项目

更新于 10-16 03:05

技能介绍

用途:为 MiniCPM5-1B 基础检查点选择正确的微调框架,并路由到框架专属的 cookbook 子技能,避免自行临时配置。适用于用户想做 SFT、LoRA、DPO、QLoRA 等微调任务时。

必要输入:BASE_MODEL(如 openbmb/MiniCPM5-1B 或含 config.json、model.safetensors、tokenizer.json 的本地目录,未指定时默认该 HF fp16 版本)、DATA(messages 格式的 JSONL 路径)、OUTPUT_DIR(检查点输出目录)、目标(LoRA SFT/full SFT/DPO/QLoRA/continue-pretrain)、硬件条件。

框架选择:YAML/WebUI 驱动、社区支持广选 LLaMA-Factory(首次微调推荐);需要 ChatML 模板与 ModelScope 原生 SFT/DPO/KTO/ORPO 选 ms-swift;裸 Python、仅对 assistant 计算损失、少抽象选 TRL+PEFT;单卡 LoRA/QLoRA、显存紧张(≤24GB)选 unsloth;mmengine 配置驱动、OpenMMLab 栈选 xtuner。

调用约定:各子技能接受 BASE_MODEL、DATA、OUTPUT_DIR,在 OUTPUT_DIR 输出 LoRA 适配器或完整检查点,运行前需完整阅读所选的子技能。

框架专属注意点:LLaMA-Factory 用 template: empty,交给模型自身 jinja,而非 template: llama3;ms-swift 必须加 --model_type llama --template chatml;TRL 需为 assistant_only_loss=True 打训练专用 chat template 补丁;unsloth 若同环境有 vLLM 需固定 transformers==4.57.3;xtuner 用 prompt_template=PROMPT_TEMPLATE.qwen_chat(ChatML)、messages 数据用 openai_map_fn、start_factor ≥ 1e-2。

训练后检查:先 ls "$OUTPUT_DIR" 确认保存了 adapter_model.safetensors 与 adapter_config.json(LoRA)或完整 HF 目录;再做一次推理验证,预期得到连贯回答,若为乱码或空则多为 chat template 未对齐。

限制:每个子技能配有 docs/finetune/ 下的 cookbook 作为人读参考;具体安装命令、依赖版本与完整参数资料未在给定内容中提供。