用途
Vastai-Api 技能旨在为使用 Vast.ai 平台的开发者提供全面的 API 辅助,帮助管理 GPU 实例、执行机器操作并自动化 AI/ML 工作流。该技能提供对官方文档的访问,以便通过编程方式控制 Vast.ai 平台。
主要能力
该技能覆盖以下操作领域:
- GPU 实例管理:创建、销毁、启动、停止或管理 GPU 实例。
- 机器操作:列出可租用机器、设置定价、管理维护窗口。
- SSH 与认证:管理 SSH 密钥、API 密钥以及与实例的安全连接。
- 账单与信用:查看发票、收益、存款或转移信用。
- 网络卷:创建、列出或管理网络存储卷。
- 无服务器端点:使用 Vast.ai 无服务器工作器组和端点。
- 数据传输:在实例或云服务之间复制数据。
- 账户管理:管理子账户、环境变量或团队角色。
- CLI 操作:使用 vastai 命令行工具。
- API 集成:构建与 Vast.ai REST API 集成的应用程序。
使用方式
该技能包含参考文件,提供详细的 API 文档和 CLI 示例:
- llms-full.md:完整的 API 参考,按类别组织所有端点,包括账户、账单、实例、机器、网络卷、搜索、无服务器等。每个端点包含 HTTP 方法和路径、详细描述、CLI 使用示例、参数说明和源文档链接。
- llms-txt.md:聚焦文档,涵盖无服务器工作器组参数和配置、端点管理、快速入门指南、常见问题解答以及 Schema.org 结构化数据。
- llms.md:所有 API 操作的精选列表,附有简要描述和 CLI 示例,按类别组织以便快速查找。
用户可以通过 vastai 命令行工具或 REST API 执行操作。资料中提供了大量 CLI 示例,例如:
创建实例:
vastai create instance <offer_id> \
--image pytorch/pytorch:latest \
--disk 50 \
--ssh
列出实例:
vastai show instances
管理实例状态:
vastai stop instance <instance_id>
vastai start instance <instance_id>
vastai reboot instance <instance_id>
vastai destroy instance <instance_id>
SSH 密钥管理:
vastai create ssh-key "ssh-rsa AAAAB3NzaC1yc2EA... user@host"
vastai show ssh-keys
vastai attach ssh <instance_id> <ssh_key>
搜索 GPU 报价:
vastai search offers \
--gpu_name RTX_4090 \
--num_gpus 2 \
--disk_space 100
环境变量管理:
vastai create env-var MY_API_KEY "secret_value_here"
vastai show env-vars
vastai update env-var MY_API_KEY "new_secret_value"
vastai delete env-var MY_API_KEY
账单查询:
vastai show invoices
vastai show earnings
vastai show deposit <instance_id>
vastai transfer credit recipient@email.com 25.00
日志检索:
vastai show logs <instance_id> --tail 100
vastai show logs <instance_id> --filter "error"
vastai show logs <instance_id> --daemon-logs
数据复制:
vastai copy <src_id> <dst_id> /source/path /destination/path
vastai cloud copy <instance_id> remote:bucket/path /local/path
机器管理(主机):
vastai list machine <machine_id> \
--price_gpu 0.50 \
--price_disk 0.10
vastai unlist machine <machine_id>
vastai schedule maint <machine_id> \
--sdate "2025-11-01T10:00:00" \
--duration 3600
关键概念
资料中介绍了以下关键概念:
- 实例类型:按需实例(即用即付)、可中断实例(成本较低,可被主机回收)、预留实例(预付费,使用折扣最高 40%)。
- 定价模型:GPU 按小时计费(运行中)、存储按磁盘空间计费(即使实例停止)、网络传输带宽成本、预留实例预付款折扣。
- 实例状态:starting(初始化中)、running(活动且计费)、stopped(容器停止,存储仍计费)、exited(容器退出或失败)、rebooting(重启中)、recycling(正在销毁并从新镜像重建)。
- 认证:API 密钥用于 REST API 编程访问,SSH 密钥用于安全 shell 访问,环境变量为注入容器的加密密钥。
- 模板:预配置设置,包含 Docker 镜像规格、环境变量、启动脚本、资源需求、端口映射。流行模板包括 PyTorch、TensorFlow、Jupyter、ComfyUI 和 Stable Diffusion。
- 网络卷:共享网络存储,可附加到多个实例,独立于实例生命周期持久化,用于数据集和模型权重,可独立扩展。
- 无服务器架构:端点(顶层路由和配置)、工作器组(自动扩展的 GPU 实例池)、测试工作器(性能分析探索阶段)、目标利用率(控制扩展行为)。
适用场景
该技能适用于以下场景:
- 需要按需租用 GPU 算力进行 AI/ML 训练或推理。
- 管理长时间运行训练任务,包括成本优化、日志监控、检查点备份。
- 托管机器以获取收益,包括设置定价、维护窗口、监控收益。
- 构建与 Vast.ai REST API 集成的自定义应用程序。
- 使用无服务器端点和工作器组实现自动扩展。
- 管理团队子账户和权限。
限制
资料中未提供关于该技能的具体限制信息。使用 Vast.ai 平台时,最低存款为 5 美元,余额显示在仪表板右上角,租用或创建团队需要邮箱验证,自动计费可防止中断。所有价格以美元计,按小时计费计算和存储。