SuperAPI AI 工具集

vertex-tuning

部署与运维

查看项目

更新于 10-15 21:54

技能介绍

用途:该技能提供使用 Vertex AI 调优服务微调大语言模型(LLM)的流程性知识,覆盖从环境搭建、数据准备到任务配置、监控与部署的完整生命周期。

主要能力:以决策树引导流程,依次检查环境、数据集、配置、任务状态、完成情况与部署状态,并分五个阶段执行:阶段0环境与IAM设置(认证、启用 aiplatform.googleapis.com 与 storage.googleapis.com、校验服务代理与用户身份权限、创建 tuning_agent_venv 虚拟环境并安装依赖);阶段1数据集准备与上传(要求 GCS 中的 JSONL 格式,可用 scripts/prepare_dataset.py 转换与校验,支持 --validation_split 0.2 划分验证集,上传时使用带时间戳的唯一目录);阶段2模型与超参数推荐(依据模型目录与调优指南推荐 tuning_mode、epochs、learning_rate、adapter_size);阶段3用 scripts/tune_model.py 提交任务;阶段4通过控制台链接或轮询监控;阶段5任务成功后用 scripts/deploy_model.py 部署到端点。

使用方式:需先安装并登录 gcloud CLI,确认项目与区域,启用相关 API,配置 IAM 角色,然后按阶段执行脚本命令,关键步骤均需用户确认。

适用场景:需要在 Vertex AI 上对 LLM 进行监督微调并部署推理端点的场景。

限制:资料未提供具体模型清单、硬件推荐细节、计费信息与脚本内部实现,相关事实暂未提供。