用途:该技能用于借助 Unsloth 对 LLM 进行微调,主要覆盖两类训练方式。GRPO 为基于奖励函数的强化学习,无需标注输出;SFT 为使用输入/输出对的监督微调。另支持视觉语言模型(VLM)微调,如 Qwen3-VL、Gemma3、Llama 3.2 Vision。
主要能力:FP8 训练可减少约 60% 显存并提速约 1.4 倍(需 RTX 40+ 或 H100);packing 对混合长度数据自动带来 2-5 倍加速;提供官方 unsloth/unsloth Docker 镜像;移动端可经 QAT→ExecuTorch 部署到 iOS/Android(约 40 tok/s);支持导出 GGUF、Ollama、vLLM、LM Studio、SGLang。
使用方式:通过 /unsloth 系列触发词调用,如 /unsloth grpo、/unsloth sft、/unsloth fp8、/unsloth vision、/unsloth mobile、/unsloth docker、/unsloth troubleshoot、/unsloth install、/unsloth dataset、/unsloth mlx。GRPO 需定义奖励函数并配置 GRPOConfig(如 num_generations、beta、learning_rate);SFT 使用 SFTTrainer 与 SFTConfig,可开启 packing。导出可用 save_lora、save_pretrained_merged、save_pretrained_gguf。
适用场景:提升推理质量、对齐偏好、教授输出格式、学习领域知识、视觉微调、移动端部署与多格式导出。
限制:具体安装命令、CUDA 版本、环境变量与完整代码示例需查阅对应参考文件;资料未提供官方定价与平台支持细节,部分能力依赖特定硬件(如 FP8 需 RTX 40+ 或 H100)。