用途:Lambda Labs 提供按需 GPU 云实例,用于机器学习训练、微调与推理,适合需要独占 GPU、完整 SSH 访问和长时间训练任务的场景。
主要能力:提供 B200、H100、GH200、A100、A10、A6000、V100 等 GPU,支持 1x 到 8x 配置;实例预装 Lambda Stack(Ubuntu 22.04、NVIDIA 驱动、CUDA 12.x、cuDNN、NCCL、PyTorch、TensorFlow、JAX、JupyterLab)。持久化文件系统可跨实例重启保留数据,挂载路径为 /lambda/nfs/<FILESYSTEM_NAME>。1-Click Clusters 提供 16-512 张 H100 或 B200 的 Slurm 集群,配 InfiniBand。计费按分钟,无出网费用,覆盖 12+ 区域。
使用方式:在 https://lambda.ai 注册并添加支付方式,生成 API 密钥并添加 SSH 密钥;在 https://cloud.lambda.ai/instances 启动实例,或用 Python 客户端 pip install lambda-cloud-client 及 curl 调用 API 启动、列出和终止实例。连接方式为 ssh ubuntu@<INSTANCE-IP>。多卡训练可用 torchrun --nproc_per_node=8 train_ddp.py,集群可用 srun 配合 torchrun。
适用场景:LLM 微调(7B 可用 A100 40GB,70B 可用 8x H100)、批量推理(A10、A6000)、开发调试(V100、A10)。
限制:实例无自动停止,需手动终止以避免闲置计费;文件系统必须在启动时挂载且区域需与实例一致;默认仅开放 22 端口;单卡启动约 3-5 分钟,多卡约 10-15 分钟。若需无服务器自动扩缩、多云编排或更低价格,资料建议考虑 Modal、SkyPilot、RunPod、Vast.ai 等替代方案。