用途:面向 Azure Container Apps 的 GPU 支持与 2025 GA 特性知识库,帮助在无服务器容器平台上运行 AI/ML 工作负载,结合 GPU、Dapr 与缩放规则实现按需成本控制。
主要能力:
- 无服务器 GPU(GA):按需自动缩放、缩容到零、按秒计费、优化冷启动。
- 专用 GPU(GA):独占 GPU 资源,支持 NVIDIA A100、T4 等,适合长时间训练与持续推理。
- 动态会话 GPU(Early Access):Hyper-V 隔离沙箱,运行不可信 AI 生成代码。
- Foundry Models 集成:创建容器应用时直接部署模型,提供预配置推理端点。
- Durable Task Scheduler 工作流(预览):长时运行工作流编排与状态持久化。
- 原生 Azure Functions 支持与 Dapr 集成(GA):服务发现、状态管理、发布订阅、服务调用与可观测性。
用法:通过 Azure CLI 创建环境与容器应用,指定 --gpu-type、--gpu-count、--min-replicas、--max-replicas 等参数;可配置 HTTP、Prometheus 自定义、Azure Service Bus 队列等缩放规则;使用 workload profile(如 GPU-A100)启用专用 GPU;用 az containerapp job 创建批处理作业;通过 Dapr 组件 YAML 配置状态存储与发布订阅;用托管标识与 Key Vault 管理密钥。
适用场景:模型推理服务(vLLM 兼容 OpenAI 端点)、Stable Diffusion 图像生成、批量训练作业、事件驱动微服务、间歇性 GPU 工作负载。
限制:部分区域不支持 GPU,可能需要申请配额;Spot/可抢占 GPU 标注为未来功能;动态会话 GPU 为早期访问;Durable Task Scheduler 为预览;定价与具体计费细节资料未提供;使用前应核对区域可用性与配额。