SuperAPI AI 工具集

tao-finetune-huggingface-model

智能体与模型

查看项目

更新于 10-16 04:34

技能介绍

用途:在本地 NVIDIA GPU 的 NGC PyTorch 容器内微调 HuggingFace 视觉(CV)、视觉语言(VLM)与语言(LLM)模型,运行链条为单一 NGC 容器、一组聚焦脚本、一次推送到 HF Hub。行为受文件规则约束,须遵循不得即兴发挥。权威顺序(由高到低):用户输入 → 实时调研(模型卡、HF 仓库示例、作者脚本、任务文档、论文,始终抓取)→ 精选 references/*.md 兜底 → 训练数据记忆(最后手段,可疑)。冲突时以实时调研为准。

输入:必填 model_id(如 google/vit-base-patch16-224)。凭据由 SessionStart 钩子从 ~/.config/tao/.env 加载:HF_TOKEN 仅在模型/数据集受限(读)或开启 push_to_hub(写)时需要;WANDB_API_KEY、WANDB_PROJECT 仅在启用 WandB 时需要,可用 WANDB_MODE=disabled 退出。数据集三选一:dataset_id、local_dataset_path(可选格式 auto/imagefolder/coco/voc/jsonl/arrow/parquet/csv,默认自动检测),或省略由代理推荐。可选参数含 task_type(自动检测)、n_train=10000、n_eval=1000、n_epochs=3、lora_r=16、output_dir=./output/<model_short_name>、push_to_hub=True、skip_baseline=False 等。所有值写入 output_dir/config.yaml,不在 Python 中硬编码。

主要能力:编排 6 步工作流——检查与资格判定、硬件审计与 NGC 镜像选择、实时调研配方、生成项目并冒烟测试、训练/评估/推理、推送并生成可重跑技能。硬性规则包括:写 ML 代码前须抓取实时文档;完整训练前先用 --max_steps 1 在真实数据上冒烟测试;不得静默替换 model_id、dataset_id 或训练方法;错误恢复采用最小改动(OOM 减半批量并加倍梯度累积等);按 bf16 进行硬件估算。

使用方式:需先阅读并遵循 tao-setup-nvidia-gpu-host、tao-run-on-docker、tao-run-on-local-docker 等平台技能;默认平台为 local-docker,先构建一次性镜像(run-<short>:latest)并在本地 Docker 守护进程运行。命令示例:docker build -t run-<short>:latest .;多 GPU 时在 python train.py 前加 torchrun --nproc_per_node=$gpu_count。

适用场景:本地 NVIDIA GPU 上对 CV / VLM / LLM 模型做图像分类、目标检测、语义分割、图像文本转文本等微调任务。

限制:本技能只编排“运行什么”,平台技能负责“如何运行”;精选 references 仅在实时调研沉默、含糊或不可用时参考,且具体模型与当前 API 以实时文档为准。示例管道包括 tao-rerun-convnext-cifar10、tao-rerun-detr-cppe5、tao-rerun-segformer-foodseg103、tao-rerun-smolvlm-vqav2。具体收费、价格与平台分布等资料暂未提供。