Modal 是一个无服务器 GPU 云平台，用于运行机器学习工作负载。其核心特点是用 Python 原生方式定义基础设施，无需编写 YAML，也无需管理服务器。以下按用途、主要能力、使用方式、适用场景和限制进行介绍。
一、用途 Modal 适合以下场景：运行 GPU 密集型 ML 工作负载而无需管理基础设施；将 ML 模型部署为自动扩缩容的 API；运行批处理作业（训练、推理、数据处理）；需要按秒计费且无空闲成本的 GPU 使用；快速原型开发 ML 应用；运行定时任务（类似 cron 的工作负载）。资料也指出，若需要长时间运行且保持状态的 Pod，可考虑 RunPod；预留 GPU 实例可考虑 Lambda Labs；多云编排与成本优化可考虑 SkyPilot；复杂多服务架构可考虑 Kubernetes。
二、主要能力
- 无服务器 GPU：按需提供 T4、L4、A10G、L40S、A100、H100、H200、B200 等 GPU。
- Python 原生：在 Python 代码中定义基础设施，无需 YAML。
- 自动扩缩容：可缩容到零，也可瞬间扩展到 100+ GPU。
- 亚秒级冷启动：基于 Rust 的基础设施，加快容器启动。
- 容器缓存：镜像层缓存，便于快速迭代。
- Web 端点：将函数部署为 REST API，支持零停机更新。
- 核心组件包括 App（函数与资源的容器）、Function（带计算规格的无服务器函数）、Cls（带生命周期钩子的类函数）、Image（容器镜像定义）、Volume（模型/数据的持久化存储）、Secret（安全的凭证存储）。
- GPU 配置支持单卡、指定显存变体、多卡（最多 8 卡）、回退列表和任意可用 GPU。
- 容器镜像支持基于 Debian slim 安装 pip 包、从 CUDA 基础镜像构建、安装系统包。
- 持久化存储通过 Volume 实现，可缓存模型并在修改后提交持久化。
- Web 端点支持 fastapi_endpoint 简单函数转 API、asgi_app 完整 FastAPI/Starlette 应用、wsgi_app 用于 Django/Flask 应用、web_server 用于任意 HTTP 服务器。
- 动态批处理通过 @modal.batched 自动合并输入。
- 密钥管理通过 modal secret create 创建，并在函数中引用。
- 定时任务支持 Cron 和 Period 两种调度方式。
- 性能优化包括通过 container_idle_timeout 保持容器温暖、allow_concurrent_inputs 处理并发请求、@modal.enter() 在容器启动时加载模型，以及通过 .map() 并行分发任务到多个容器。
- 常用配置包括 gpu、memory、cpu、timeout、container_idle_timeout、retries、concurrency_limit 等参数。
三、使用方式 安装：pip install modal，然后运行 modal setup 打开浏览器进行认证。 执行模式：modal run script.py 执行后退出；modal serve script.py 用于带热重载的开发；modal deploy script.py 用于持久化云端部署。 基本示例：定义 modal.App，使用 @app.function(gpu="T4") 装饰函数，通过 @app.local_entrypoint() 在本地触发远程执行。 推理端点示例：使用 @app.cls(gpu="A10G", image=image) 定义类，在 @modal.enter() 中加载模型，在 @modal.method() 中执行推理。 调试：可在本地通过 my_function.local() 测试，使用 modal app logs my-app 查看日志。
四、适用场景 适合需要按需 GPU、自动扩缩容、无空闲成本的 ML 训练与推理、批量处理、API 部署、快速原型和定时任务等场景。
五、限制与注意事项 资料列出的常见问题包括：冷启动延迟可通过增加 container_idle_timeout 和使用 @modal.enter() 缓解；GPU 显存不足可换用更大 GPU（如 A100-80GB）或启用梯度检查点；镜像构建失败可固定依赖版本并检查 CUDA 兼容性；超时错误可增加 timeout 并添加检查点。具体 GPU 价格、配额和可用区域等细节暂未提供。
六、资源 文档：https://modal.com/docs；示例：https://github.com/modal-labs/modal-examples；定价：https://modal.com/pricing；Discord：https://discord.gg/modal。