SuperAPI AI 工具集

ai-fine-tuning

智能体与模型

查看项目

更新于 10-15 23:58

技能介绍

用途:该技能引导用户判断是否值得微调,并完成数据准备、用 DSPy 微调、把昂贵模型蒸馏为便宜模型以及部署。核心观点是微调强大但昂贵,动手前必须先确认前提。

主要能力:提供决策清单(是否已优化提示、是否有 500+ 标注样本、基线是否高于 50%、目标是质量还是成本);给出何时该微调与何时不该微调;覆盖数据划分 80/10/10、基线测量、提示优化对比、BootstrapFinetune 微调、教师-学生蒸馏、BetterTogether 交替优化、测试集评估与保存加载。

使用方式:先构建提示优化基线(如 MIPROv2),再运行 dspy.BootstrapFinetune(metric=metric, num_threads=24) 并 compile;蒸馏时先优化教师程序,再以 teacher=teacher_optimized 微调学生模型;BetterTogether 用 strategy="p -> w -> p"。安装命令:npx skills add lebsral/DSPy-Programming-not-prompting-LMs-skills --skill <name>。

适用场景:提示优化已达上限、需要领域专有词汇、需要更快推理、或想把昂贵模型蒸馏为便宜模型(资料称可省 10-50 倍成本)。

限制与注意:样本少于 500 易过拟合;基线低于 50% 应先修数据或任务定义;需可微调模型(如 OpenAI gpt-4o-mini、gpt-4o 或本地开源模型),Anthropic 不提供微调 API;最终评估须用留出测试集;小模型易出 JSON 格式错误,可改用 YAML;需检查 bootstrap 成功轨迹数量(目标 200+)。具体价格与效果以资料所述为准,未提供的信息暂未提供。