SuperAPI AI 工具集

huggingface-jobs

部署与运维

查看项目

更新于 10-16 03:05

技能介绍

用途:在 Hugging Face 全托管基础设施上运行任意工作负载,无需本地环境,可使用云端 CPU、GPU、TPU,并能将结果保存到 Hugging Face Hub。常见场景包括数据处理、批量推理、实验与基准、模型训练、合成数据生成、开发测试和定时任务。模型训练可参考 model-trainer 技能。

主要能力:支持两种方式。一是 UV 脚本(推荐),使用 PEP 723 内联依赖;通过 hf_jobs("uv", {...}) 提交,脚本参数直接接受 Python 代码字符串,也可传入 URL;可指定自定义镜像、Python 版本和额外依赖,例如 hf_jobs("uv", {"script": "inference.py", "image": "vllm/vllm-openai:latest", "flavor": "a10g-large"})。二是 Docker 作业,通过 hf_jobs("run", {...}) 或 hf jobs run 指定镜像与命令,也可使用 HF Spaces 作为镜像。硬件可选 CPU、GPU(t4、l4、a10g、a100)和 TPU(v5e),需按规模选择。

使用方式:使用前需确认已登录(hf_whoami()),Jobs 需要 Pro、Team 或 Enterprise 付费计划。涉及 Hub 读写时通过 secrets 传入 HF_TOKEN:MCP 工具中写 {"secrets": {"HF_TOKEN": "$HF_TOKEN"}},该占位符会被自动替换;直接调用 HfApi().run_uv_job() 时必须传入真实 token,如 secrets={"HF_TOKEN": get_token()},传字面量 "$HF_TOKEN" 会导致无效 token 和 401 错误。脚本内用 os.environ.get("HF_TOKEN") 获取。提交后应提供作业 ID、监控 URL、预计时间和状态查询说明,并按任务设置超时。

限制:作业环境为临时环境,结束后文件会被删除,必须提前持久化结果,方法包括推送到 Hub、上传到 S3/GCS 或调用自有 API。默认超时为 30 分钟,长任务需自定义。使用 hf_jobs() MCP 工具时,script 需为内联字符串或 URL,本地路径在远端容器不可见;CLI 方式支持本地路径。身份验证、付费计划与 token 权限均需满足,否则会出现 401、403 等错误。其他未提供的细节暂未说明。