SuperAPI AI 工具集

vastai-api

部署与运维

查看项目

更新于 10-16 03:20

技能介绍

用途

Vastai-Api 技能旨在为使用 Vast.ai 平台的开发者提供全面的 API 辅助,帮助管理 GPU 实例、执行机器操作并自动化 AI/ML 工作流。该技能提供对官方文档的访问,以便通过编程方式控制 Vast.ai 平台。

主要能力

该技能覆盖以下操作领域:

  • GPU 实例管理:创建、销毁、启动、停止或管理 GPU 实例。
  • 机器操作:列出可租用机器、设置定价、管理维护窗口。
  • SSH 与认证:管理 SSH 密钥、API 密钥以及与实例的安全连接。
  • 账单与信用:查看发票、收益、存款或转移信用。
  • 网络卷:创建、列出或管理网络存储卷。
  • 无服务器端点:使用 Vast.ai 无服务器工作器组和端点。
  • 数据传输:在实例或云服务之间复制数据。
  • 账户管理:管理子账户、环境变量或团队角色。
  • CLI 操作:使用 vastai 命令行工具。
  • API 集成:构建与 Vast.ai REST API 集成的应用程序。

使用方式

该技能包含参考文件,提供详细的 API 文档和 CLI 示例:

  • llms-full.md:完整的 API 参考,按类别组织所有端点,包括账户、账单、实例、机器、网络卷、搜索、无服务器等。每个端点包含 HTTP 方法和路径、详细描述、CLI 使用示例、参数说明和源文档链接。
  • llms-txt.md:聚焦文档,涵盖无服务器工作器组参数和配置、端点管理、快速入门指南、常见问题解答以及 Schema.org 结构化数据。
  • llms.md:所有 API 操作的精选列表,附有简要描述和 CLI 示例,按类别组织以便快速查找。

用户可以通过 vastai 命令行工具或 REST API 执行操作。资料中提供了大量 CLI 示例,例如:

创建实例:

vastai create instance <offer_id> \
  --image pytorch/pytorch:latest \
  --disk 50 \
  --ssh

列出实例:

vastai show instances

管理实例状态:

vastai stop instance <instance_id>
vastai start instance <instance_id>
vastai reboot instance <instance_id>
vastai destroy instance <instance_id>

SSH 密钥管理:

vastai create ssh-key "ssh-rsa AAAAB3NzaC1yc2EA... user@host"
vastai show ssh-keys
vastai attach ssh <instance_id> <ssh_key>

搜索 GPU 报价:

vastai search offers \
  --gpu_name RTX_4090 \
  --num_gpus 2 \
  --disk_space 100

环境变量管理:

vastai create env-var MY_API_KEY "secret_value_here"
vastai show env-vars
vastai update env-var MY_API_KEY "new_secret_value"
vastai delete env-var MY_API_KEY

账单查询:

vastai show invoices
vastai show earnings
vastai show deposit <instance_id>
vastai transfer credit recipient@email.com 25.00

日志检索:

vastai show logs <instance_id> --tail 100
vastai show logs <instance_id> --filter "error"
vastai show logs <instance_id> --daemon-logs

数据复制:

vastai copy <src_id> <dst_id> /source/path /destination/path
vastai cloud copy <instance_id> remote:bucket/path /local/path

机器管理(主机):

vastai list machine <machine_id> \
  --price_gpu 0.50 \
  --price_disk 0.10
vastai unlist machine <machine_id>
vastai schedule maint <machine_id> \
  --sdate "2025-11-01T10:00:00" \
  --duration 3600

关键概念

资料中介绍了以下关键概念:

  • 实例类型:按需实例(即用即付)、可中断实例(成本较低,可被主机回收)、预留实例(预付费,使用折扣最高 40%)。
  • 定价模型:GPU 按小时计费(运行中)、存储按磁盘空间计费(即使实例停止)、网络传输带宽成本、预留实例预付款折扣。
  • 实例状态:starting(初始化中)、running(活动且计费)、stopped(容器停止,存储仍计费)、exited(容器退出或失败)、rebooting(重启中)、recycling(正在销毁并从新镜像重建)。
  • 认证:API 密钥用于 REST API 编程访问,SSH 密钥用于安全 shell 访问,环境变量为注入容器的加密密钥。
  • 模板:预配置设置,包含 Docker 镜像规格、环境变量、启动脚本、资源需求、端口映射。流行模板包括 PyTorch、TensorFlow、Jupyter、ComfyUI 和 Stable Diffusion。
  • 网络卷:共享网络存储,可附加到多个实例,独立于实例生命周期持久化,用于数据集和模型权重,可独立扩展。
  • 无服务器架构:端点(顶层路由和配置)、工作器组(自动扩展的 GPU 实例池)、测试工作器(性能分析探索阶段)、目标利用率(控制扩展行为)。

适用场景

该技能适用于以下场景:

  • 需要按需租用 GPU 算力进行 AI/ML 训练或推理。
  • 管理长时间运行训练任务,包括成本优化、日志监控、检查点备份。
  • 托管机器以获取收益,包括设置定价、维护窗口、监控收益。
  • 构建与 Vast.ai REST API 集成的自定义应用程序。
  • 使用无服务器端点和工作器组实现自动扩展。
  • 管理团队子账户和权限。

限制

资料中未提供关于该技能的具体限制信息。使用 Vast.ai 平台时,最低存款为 5 美元,余额显示在仪表板右上角,租用或创建团队需要邮箱验证,自动计费可防止中断。所有价格以美元计,按小时计费计算和存储。