SuperAPI AI 工具集

vast-gpu

通用与其它

查看项目

更新于 10-15 21:04

技能介绍

用途:在 vast.ai 上按需租用 GPU 完成训练任务,覆盖租用→配置→运行→销毁的完整生命周期。用户无需指定 GPU 型号,只需描述任务,技能据此推断硬件需求。

主要能力:分析实验计划或脚本,估算最小显存、GPU 数量、预计小时数与磁盘需求;跨多个 GPU 档位搜索报价并按预估总成本排序,展示 3 个选项($/hr × 预计小时数);创建实例、等待就绪、获取 SSH 连接、验证连通性;按有序 pip 阶段安装依赖、rsync 同步代码并验证 PyTorch/CUDA;销毁实例前下载结果并核算实际成本;列出或批量销毁实例。活跃实例记录在项目根目录 vast-instances.json 中。

使用方式:需先安装并认证 vastai CLI(要求 Python ≥ 3.10):pip install vastai;vastai set api-key YOUR_API_KEY。创建实例前必须在 https://cloud.vast.ai/manage-keys/ 上传 SSH 公钥,密钥在创建时写入实例,事后添加需销毁重建。常用动作:provision(默认,分析任务并展示选项)、rent <offer_id>、list、destroy <instance_id>、destroy-all。创建命令示例:vastai create instance <OFFER_ID> --image <DOCKER_IMAGE> --disk <DISK_GB> --ssh --direct --onstart-cmd "apt-get update && apt-get install -y git screen rsync"。默认镜像为 pytorch/pytorch:2.1.0-cuda12.1-cudnn8-devel,工作目录 /workspace/,代码同步至 /workspace/project/。连接信息应使用 vastai ssh-url <ID> 获取。

适用场景:需要临时云端 GPU 做微调、训练或消融实验,且希望按秒计费、用完即销毁的场合。

限制:vast.ai 按秒计费,实验结束务必销毁实例;销毁不可逆,数据永久丢失,需先下载结果;建议可靠性 > 0.95;短实验(<2 小时)用按需定价,长任务(>4 小时)可考虑可中断定价并配合检查点;若系统 Python 低于 3.10 需用虚拟环境。具体价格、可用机型与效果以实际报价为准,资料未提供固定价格。