SuperAPI AI 工具集

huggingface-llm-trainer

智能体与模型

查看项目

更新于 10-15 22:15

技能介绍

用途:在Hugging Face托管基础设施上训练/微调语言与视觉模型,无需本地GPU。训练环境为临时容器,任务结束后文件被删除,因此必须推送至Hugging Face Hub以免结果丢失。

主要能力:TRL提供SFT(监督微调)、DPO(直接偏好优化)、GRPO(在线强化学习)与奖励建模;可用Unsloth在显存受限、追求速度、大模型(>13B)或视觉语言模型场景替代标准TRL。提供模型基准检索、成本估算、数据集检查等辅助脚本。

使用方式:优先用hf_jobs() MCP工具提交任务,脚本内容以字符串内联传入;也可用HF Jobs CLI或TRL官方维护脚本。脚本需内联或使用可公开访问URL(本地路径不可用)。所有训练脚本应包含Trackio以实时监控。关键设置:timeout需大于预计训练时间(默认30分钟过短,建议1-2小时起);需设置push_to_hub=True、hub_model_id;任务配置中传secrets={"HF_TOKEN": "$HF_TOKEN"}。CLI顺序为hf jobs uv run,标志须在脚本URL之前,使用--secrets复数。

前提:需Hugging Face Pro/Team/Enterprise付费计划并登录;数据集须在Hub或可经datasets.load_dataset()加载,格式匹配训练方法;未知数据集应先验证。硬件与成本参考文档表格。任务异步运行,提交后立即返回,日志可能延迟30-60秒,仅在用户要求时查看状态。

限制:本地文件路径脚本不可用;超时会立即终止并丢失未保存进度;所有超出资料描述的功能、价格与使用步骤暂未提供。