SuperAPI AI 工具集

vastai-cost-tuning

智能体与模型

查看项目

更新于 10-15 23:30

技能介绍

用途:优化 Vast.ai 上的总有用工作量成本,而非只看 GPU 标价。适用于挑选租用报价、控制费用泄漏、核对账单节省。

主要能力:建立归一化报价集,保留 GPU 价格、存储、带宽、可靠性、dlperf、dlperf_usd、网络与主机约束;按实测吞吐估算运行时间,并叠加存储、数据传输、启动、检查点、失败与人工恢复成本;区分按需与竞价语义;排查停止实例仍计存储费、闲置 GPU、废弃卷、过大磁盘、重复探针、未清理失败任务等泄漏;用完成工作量单位对账前后费用与发票。

使用方式:先准备 GPU/显存、吞吐、可靠性、地域、磁盘与完成时间要求,以及小时与总预算、检查点/重启成本假设和实例、卷、扣费、发票清单。按六步执行:归一化报价、建模有用工作量成本、选择租用语义、查找泄漏、实施有界变更、对账节省。竞价仅用于已有外部检查点的任务,且需显式出价;仅搜索出价不会创建可中断租用。

权限与限制:分析用 billing-read,清理需单独的 instance-write 权限;不得授予 billing-write 或额度转移权限。变更前用 Read 和 Grep 检查清单、配置、提供方输出与现有测试;未经操作者明确批准,不得创建、更新、销毁或充值 Vast.ai 资源。缺失定价字段应标记为不可比而非按零成本;无外部检查点的竞价任务应改用按需或先加恢复机制;停止实例并非免费,存储费持续到销毁;清理归属不明时不得销毁,应指定负责人并保留在报告中。输出应包含返回窗口、工作量单位、选定报价策略、资源 ID、建模/实际成本、节省与未解决账单风险。