该技能用于通过 LLaMA-Factory 微调 MiniCPM5-1B,提供 YAML 驱动的 SFT / DPO 训练与 WebUI,是最有文档积累的社区框架之一。
必要输入:BASE_MODEL(如 openbmb/MiniCPM5-1B)、DATA_DIR(含 dataset_info.json 与 jsonl)、DATASET_NAME、OUTPUT_DIR、GPU_ID(默认 0)。
使用步骤:先在独立 venv 中安装(python -m venv .venv-lf && source .venv-lf/bin/activate;pip install "llamafactory==0.9.3");注意 LLaMA-Factory 固定 transformers==4.52,不要装入 vLLM 环境。然后在 DATA_DIR/dataset_info.json 注册 sharegpt 格式数据集,jsonl 每行含 messages 数组。接着编写训练 YAML(如 ${OUTPUT_DIR}/lora_sft.yaml),其中 template: empty 对 MiniCPM5 是必需的,否则会产生错误的 token 布局。执行训练:CUDA_VISIBLE_DEVICES=${GPU_ID} llamafactory-cli train ${OUTPUT_DIR}/lora_sft.yaml;多 GPU 可加 FORCE_TORCHRUN=1 并设 NPROC_PER_NODE=8。训练后 LoRA 适配器位于 OUTPUT_DIR,可用 peft 与 transformers 做推理自检;也可用 llamafactory-cli export 合并 LoRA,合并后为普通 LlamaForCausalLM。若需全量微调,将 finetuning_type 改为 full 并删除 LoRA 相关字段,多 GPU 可加 deepspeed 配置。限制与说明:资料仅给出上述流程与配置,未提供其它平台、价格或效果信息;实际环境依赖与兼容性需自行确认。