用途:PEFT 用于大语言模型的参数高效微调,通过训练不到 1% 的参数完成适配,适配器文件仅约 6MB,而完整模型可达 14GB,便于在一套基础模型上部署多个微调变体。
主要能力:支持 LoRA、QLoRA、AdaLoRA、IA3、Prefix Tuning、Prompt Tuning、P-Tuning v2 等 25 种以上方法;可加载、合并适配器,并支持多适配器运行时切换与禁用。典型显存占用(Llama 3.1 8B):全量微调 60GB 以上,LoRA r=16 约 18GB,QLoRA r=16 约 6GB,IA3 约 16GB。
使用方式:安装命令为 pip install peft,量化支持需 pip install peft bitsandbytes,完整依赖为 pip install peft transformers accelerate bitsandbytes datasets。基本流程是加载基础模型与分词器,定义 LoraConfig(如 r、lora_alpha、lora_dropout、target_modules),用 get_peft_model 应用后交给 Trainer 训练,最后用 save_pretrained 只保存适配器。QLoRA 需先配置 BitsAndBytesConfig 进行 4 位量化,并调用 prepare_model_for_kbit_training。推理时可加载适配器,或用 merge_and_unload 合并进基础模型。
适用场景:在 RTX 4090、A100 等 GPU 上微调 7B-70B 模型;显存受限时用 QLoRA 在单张 24GB GPU 上微调 70B 模型;需要多个任务专属适配器快速迭代;与 TRL、Axolotl、vLLM 集成。
限制:QLoRA 相比全量微调可能有约 5% 质量折衷;训练小于 1B 的模型或有充足算力、需最大质量及显著领域迁移时,宜用全量微调。资料未提供官方收费与价格信息。