用途:Fine-Tuning Assistant 用于指导将预训练模型适配到特定使用场景,帮助判断何时该微调、如何准备数据与配置训练,并评估和部署微调模型。
主要能力:提供四个核心工作流。一是决定是否微调,对比提示词优化、少样本示例、RAG 与微调的投入与适用条件,强调只有在提示与 RAG 不足时才微调;二是准备数据集,收集有代表性、高质量的示例,采用 messages 结构(含 system、user、assistant 角色),并做质量审查、去重与划分训练/验证/测试集;三是执行微调,选择基座模型、配置训练参数(如 OpenAI 的 n_epochs、batch_size、learning_rate_multiplier,或 LoRA 的 r、lora_alpha、lora_dropout、target_modules),监控 loss 曲线并评估结果;四是覆盖 LoRA、QLoRA、指令微调数据构造、评估框架与课程学习等高级技术。
使用方式:通过自然语言触发,例如“Should I fine-tune for [task]”“Format data for fine-tuning”“Which model to fine-tune for [task]”“Fine-tuning parameters for [goal]”“Evaluate fine-tuned model”“Fine-tuning loss not decreasing”。资料给出 OpenAI 微调与 LoRA/QLoRA 的配置代码片段,可按需参考。
适用场景:通过 API 微调 GPT 类模型、使用开源模型本地训练,或借助 Hugging Face 等平台,适用于需要统一风格或专门任务的场景。
限制与最佳实践:微调成本高、需要至少 100-1000 条高质量示例,且不会为模型添加事实知识(应改用 RAG)。应避免在提示词足够时微调、使用低质量数据、不保留测试集、训练轮次过多导致过拟合、忽视能力回退,以及不记录训练数据与配置版本。具体价格、平台支持范围与效果数据暂未提供。