SuperAPI AI 工具集

vastai-sdk

部署与运维

查看项目

更新于 10-15 22:10

技能介绍

用途:vastai 是管理 Vast.ai GPU 实例、卷、无服务器端点与账单的 Python SDK。vastai_sdk 为向后兼容的转发包,二者导入等价。

安装:pip install vastai;无服务器与异步支持用 pip install "vastai[serverless]"。

认证:默认读取 ~/.vast_api_key,也可 VastAI(api_key="YOUR_API_KEY") 显式传入,密钥从 Vast.ai 控制台获取。

主要能力(高层 VastAI 类):实例查询与生命周期(show_instances、show_instance、create_instance、start/stop/reboot/destroy_instance、label_instance、ssh_url、scp_url);搜索(search_offers、search_volumes、search_network_volumes、search_templates、search_invoices);数据传输(copy、cancel_copy、cloud_copy、cancel_sync);无服务器部署(show_deployments、show_deployment、delete_deployment);机器托管(show_machines、show_machine、list_machine、unlist_machine);SSH 密钥与团队成员管理。

低级客户端:SyncClient 提供类型化同步访问,search 支持结构化过滤,create_instance 需传 InstanceConfig 而非散列参数;AsyncClient 通过 async with 使用,需搭配 Serverless 客户端时安装 serverless 额外依赖。Serverless 客户端可获取端点并发起推理请求。

竞价实例(spot):search_offers(type='bid') 会返回 min_bid,但 create_instance 默认按 on-demand 计价,必须显式传 bid_price,否则按需租用。被出价挤掉后实例转为 stopped 而非销毁,存储继续计费,可用 change_bid 提高出价恢复。

限制:卷复制目前仅支持复制到其他卷、实例或云服务,不支持本地;目标目录不得使用 /root 或 /,否则破坏实例 SSH 权限并导致后续复制失败。更多约束见 Vast.ai 数据移动文档。其余未在资料中提及的功能、价格与效果暂未提供。