用途
SaladCloud 是一个分布式 GPU 云平台,面向 AI/ML 工作负载提供算力。其核心思路是协调并利用全球范围内分散的闲置消费级 GPU,而非新建集中的数据中心容量,从而在成本上形成结构性优势。官方称服务覆盖 190 多个国家,每天有 16,000 块以上活跃 GPU 参与。
主要能力
三种基础设施形态
- Community Cloud:由闲置消费级 GPU 组成的按需分布式算力池,官方列出的价格示例为 RTX 5090、RTX 4090 低至 0.015 美元/小时起。
- Salad Dedicated:以合同方式提供预留的裸金属与虚拟机,官方称从 RTX PRO 6000 Blackwell 开始,并有数千张卡陆续上线。
- Private Cloud:在组织自有基础设施(如现有工作站与服务器)内部署同一套编排栈,将闲置 GPU 汇集成私有的、OpenAI 兼容的 token 服务,数据不离开企业设备。
Salad Container Engine
这是调度、监控并在分布式 GPU 池之间重新分配 Docker 工作负载的软件层,可用于 Community Cloud、Dedicated 或自有设备集群。官方描述其能力包括:将 OCI 容器调度到此前从未见过的节点、验证节点、在 hypervisor 后隔离节点、流式传输日志,并在节点消失时立即重新分配工作。官方提到可支持 10,000+ 副本与故障转移。
OpenAI 兼容的 token API
提供面向开放权重模型的 OpenAI 兼容端点,由网络提供服务。可按 token 付费或申请包月方案,官方声明数据不会用于训练。页面提到支持 Qwen,上下文长度 262k(以页面表述为准)。
性能基准(官方发布)
- 图像生成:每美元 5,243 张 Flux.1-Schnell 图片;Civitai 在 600+ 张 Salad GPU 上每天服务 1000 万张图片。
- 语音:CommonVoice 上 95.1% 准确率,音频成本 0.16 美元/小时起。
- 文本:在 RTX 级 GPU 上使用 OpenVoice,每美元最高 600 万词。
- 智能体与 RAG:按小时平价的 GPU,或通过 AI Gateway 按 token 计价,输入 token 低至 0.06 美元/百万。
- 计算机视觉:使用 RAM++ 每美元标注 309,000 张图片;YOLOv8 目标检测成本比 Azure 低 73%。
- 批处理与模拟:1,260 美元转写 1,000,000 小时音频;GROMACS 价格比数据中心定价低 90% 以上。
官方强调上述基准为已发布结果,每个数字都链接到方法论。
运维与支持
生产客户可直接与 Salad 工程师就架构、容器调优与成本进行沟通;大批量部署与承诺合同可获得定制支持与定价。
使用方式
官方提供的路径包括:
- 使用托管 token API。
- 通过 Salad Container Engine 部署容器(Docker 工作负载)。
- 在 Community Cloud、Salad Dedicated 或自有设备上选择合适的基础设施。
- 私有机房场景下,在自有基础设施部署编排栈,形成 OpenAI 兼容端点。
同一套 API、门户与编排层贯穿上述选项。页面还提供了教程、基准与产品更新类内容,例如 “SaladCloud Recipes: the fastest way to deploy on distributed GPUs”。
适用场景
从官方客户证言与基准看,适合的场景包括:大规模图像生成推理、LoRA 训练(官方称每月超过 15,000 个 LoRA)、语音转写、计算机视觉标注、批处理与科学模拟(如 GROMACS),以及智能体与 RAG 类工作负载。官方客户提到在消费级 GPU 上相比 A100 与主流超大规模云厂商可显著降低成本并提升扩展规模。
限制与注意事项
- Community Cloud 节点是可中断的(类似 spot 实例),按优先级档位(High、Medium、Low、Lowest)定价。与普通 spot 不同的是,Salad Container Engine 会自动把工作负载重新分配到同级别节点、只对运行时间计费,且不对冷启动或镜像下载收费。
- 不适合需要低于 10 毫秒延迟、多 GPU NVLink 训练,或消费级网络无法提供的数据驻留保证的场景。此类需求官方建议使用 Salad Dedicated 的预留硬件或 Private Cloud 的自有基础设施。
- 安全方面,容器运行在由 hypervisor 与宿主机分区的 Linux 虚拟机内,镜像、配置与流量在传输和静态时均加密;主机入侵检测会在检测到访问尝试时销毁环境并将该机器加入黑名单。官方称符合 SOC 2 Type I。
- GPU 范围包括 NVIDIA RTX 级消费级 GPU(从 RTX 3060 到 RTX 5090 32 GB)以及部分 AMD 型号,每块 GPU 在接入前都会经过基准测试,并由专有的信任评级持续评分。数据中心与工作站 GPU(从 RTX PRO 6000 Blackwell 开始)通过 Salad Dedicated 以合同方式提供。
- 网络自 2018 年以来已有 450,000+ 块 GPU 贡献算力;节点供给方(Salad Chefs)通过运行桌面应用获取 Salad Balance。
暂未提供的信息
官方资料未说明具体的注册流程细节、各档位完整价格表、SLA 具体条款、各区域可用性明细,以及免费额度等信息。