本指南用于指导大语言模型的微调，帮助将预训练模型适配到特定领域、任务或风格，从而提升准确率、减少幻觉并优化成本。
适用时机包括：领域专精（法律、医疗、金融）、特定任务性能提升、以更小模型替代大模型以降本、风格适配、合规要求下数据留在自有基础设施，以及低延迟部署。不适用场景：一次性查询宜用提示词、信息快速变化宜用 RAG、训练样本不足（少于 100 条通常不够）、通用知识问题基础模型已足够。
主要能力与用法：提供示例脚本入口，如 python examples/full_fine_tuning.py、python examples/lora_fine_tuning.py、python examples/qlora_fine_tuning.py、python scripts/data_preparation.py。覆盖四类方法：全量微调（更新全部参数，性能上限高但算力成本大、需 1000+ 样本、有灾难性遗忘风险）；LoRA（可训练参数减少约 99%，训练快 10-20 倍，推理需基础模型，性能略低于全量）；QLoRA（4bit 量化加 LoRA，单 GPU 可训练）；前缀微调（仅训练少量虚拟 token）；以及指令微调和领域微调。
数据与训练：包含数据集校验（空样本、重复、长度离群、类别不均衡）、数据增强（同义词替换、随机插入、交换）、训练/验证/测试划分；训练技巧涵盖学习率调度、梯度累积、混合精度、多 GPU；评估指标包括困惑度、任务指标（准确率、精确率、召回率、F1）与人工评估。常见挑战（灾难性遗忘、过拟合、数据不足）给出对应缓解做法，如较低学习率（2e-5 至 5e-5）、较少轮次（1-3）、早停、正则化与改用 LoRA。
文中还列出可微调模型（Llama 3.2、Gemma 3、Mistral 7B）和 OpenAI 微调 API 调用方式，并附带实施清单与资源链接（Hugging Face Transformers、PEFT、Datasets）。需注意：指南未提供具体定价、平台限制或实测效果数据，这些信息暂未提供。