SuperAPI AI 工具集

lambda-labs-gpu-cloud

通用与其它

查看项目

更新于 10-15 19:53

技能介绍

用途:在 Lambda Labs GPU 云上运行机器学习训练与推理工作负载,提供按需实例和 1-Click Clusters。适合需要完整 SSH 访问的专用 GPU 实例、数小时至数天的长训练任务、跨会话持久存储、16-512 GPU 多节点集群,以及预装 ML 栈的场景。若需无服务器自动扩缩容可考虑 Modal,多云编排与成本优化可考虑 SkyPilot,更便宜的竞价实例可考虑 RunPod,GPU 市场最低价可考虑 Vast.ai。

主要能力:GPU 型号包括 B200、H100、GH200、A100、A10、A6000、V100;Lambda Stack 预装 Ubuntu 22.04、NVIDIA 驱动、CUDA 12.x、cuDNN 8.x、NCCL、PyTorch、TensorFlow、JAX、JupyterLab;持久化文件系统挂载于 /lambda/nfs/<FILESYSTEM_NAME>;1-Click Clusters 提供 16-512 张 H100 或 B200 的 Slurm 集群与 InfiniBand;按分钟计费,无出网费用;覆盖 12+ 区域。

使用方式:在 https://lambda.ai 注册并添加支付方式,从控制台生成 API 密钥,启动实例前必须添加 SSH 密钥。控制台地址为 https://cloud.lambda.ai/instances,启动后等待 3-15 分钟,用 ssh ubuntu@<INSTANCE-IP> 连接。Python API 安装命令为 pip install lambda-cloud-client,可列出实例类型、启动、列出与终止实例、管理 SSH 密钥。也可用 curl 调用 API,例如列出实例类型:curl -u $LAMBDA_API_KEY: https://cloud.lambdalabs.com/api/v1/instance-types | jq。多 GPU 单节点训练可用 torchrun --nproc_per_node=8 train_ddp.py;集群多节点训练使用 srun 配合 torchrun。JupyterLab 可从控制台 Cloud IDE 启动,或手动运行 jupyter lab --ip=0.0.0.0 --port=8888 并通过 SSH 隧道访问。

限制与注意事项:文件系统必须在实例启动时附加,且区域需与实例一致;实例无自动停止,需手动终止以避免闲置费用;默认仅开放 22 端口,其他端口需在控制台配置;实例间同区域带宽最高 200 Gbps,出网最高 20 Gbps;终止实例后本地数据会丢失,需使用持久化文件系统。具体价格、可用区域与库存以官方页面为准,资料中未提供的内容暂未说明。