用途:在 Hugging Face 全托管 Jobs 基础设施上训练或微调语言模型与视觉语言模型,无需本地 GPU,训练结果可保存到 Hugging Face Hub。支持 TRL 的多种方法:SFT(监督微调)、DPO(直接偏好优化)、GRPO(在线强化学习)、奖励建模。当显存有限、追求速度或训练大于 13B 的模型及视觉语言模型时,可改用 Unsloth(约省 60% 显存、约快 2 倍)。
主要能力:通过 hf_jobs() MCP 工具提交训练任务,脚本参数可直接传入 Python 代码;也可用 TRL 官方维护脚本、HF Jobs CLI 或 trl-jobs 包。提供示例脚本模板(SFT、DPO、GRPO)、数据集校验、硬件选择、成本估算与基准模型检索脚本。训练脚本应包含 Trackio 做实时监控。
使用方式:提交前需确认账号为 Pro/Team/Enterprise 付费计划并已登录,准备具写权限的 HF_TOKEN,并在任务配置中传入 secrets={"HF_TOKEN": "$HF_TOKEN"}。脚本参数只接受内联代码或公开 URL,本地路径无效。配置中需设置 push_to_hub=True 与 hub_model_id,否则临时环境结束会丢失全部训练结果。超时默认 30 分钟通常过短,建议按场景设为 1-6 小时并留 20-30% 缓冲。序列长度用 max_length 设置,视觉模型可设 max_length=None。
适用场景:云端微调、偏好对齐、在线强化学习、奖励模型训练、将模型转为 GGUF 供本地部署。
限制:Jobs 需付费计划;任务异步运行,日志可能延迟 30-60 秒出现,应避免自动轮询;超时即终止并丢失未保存进度;本地文件路径不可用。具体价格与硬件规格以官方资料为准,本资料未提供完整细节。