AI Runway AKS Setup 是一项面向 AKS 的 AI Runway 搭建技能,目标是把用户从一个裸 Kubernetes 集群带到可运行的 AI 模型部署。技能要求按步骤顺序执行,除非用户提供 skip-to-step N 以从特定阶段恢复;每步执行时加载对应参考文档。
用途 该技能适用于以下场景:在已有 AKS 集群上从零搭建 AI Runway;安装 AI Runway 控制器和 CRD;评估用于模型部署的 GPU 硬件兼容性;选择并安装推理提供商(KAITO、Dynamo、KubeRay);通过 AI Runway 将第一个 AI 模型部署到 AKS;以及从某个特定步骤恢复未完成的 AI Runway 设置。若涉及既有 GPU 或推理部署的故障,建议先加载 optional-gpu-day2.md,再决定是否提供聚焦的可选附加内容。
前置条件 该技能假定 AKS 集群已经存在。如果用户没有集群,需先交给 azure-kubernetes 技能进行创建(除非纯 CPU 推理可接受,否则应包含 GPU 节点池),然后再返回本技能。
主要能力与执行步骤 技能共分六步,每步配有参考文档:第一步,集群验证,包括上下文检查、节点清单与 GPU 检测(step-1-verify.md);第二步,控制器安装,部署 CRD 与控制器(step-2-controller.md);第三步,GPU 评估,检测 GPU 型号并标记 dtype/attention 约束(step-3-gpu.md);第四步,提供商设置,推荐并安装推理提供商(step-4-provider.md);第五步,首次部署,选择模型、部署并验证 Ready 状态(step-5-deploy.md);第六步,总结,包括回顾、冒烟测试与后续步骤(step-6-summary.md)。
使用方式与工具 本技能不使用 MCP 工具,所有集群操作直接通过 kubectl 和 make 执行。相关 CLI 工具为 kubectl、make 和 curl。执行规则要求:按顺序执行步骤,并在到达每一步时加载对应参考;在每个步骤报告集群状态(✓ 健康,✗ 缺失/失败);在任何安装或部署操作前请求用户确认;如果某步骤已完成,则报告状态并跳到下一步;如用户提供 skip-to-step N,则从第 N 步开始,并假定之前步骤已完成。
成本提示 GPU 节点池会产生显著的计算费用(A100-80GB 可达每小时 3–5 美元以上)。在供应该 GPU 资源之前,必须确认用户理解成本影响。
适用场景与限制 技能适合在 AKS 上进行 AI Runway 的端到端入门搭建,以及与 azure-kubernetes(集群设置)、azure-diagnostics(基线故障排查)等技能配合使用,可选 aks-gpu-inference 仅用于既有 GPU/推理的 Day-2 故障。限制方面,该技能不负责创建集群,需要集群已存在;不使用 MCP 工具;文档未提供具体价格、版本或平台兼容性的完整列表。
错误处理 文档列出了常见错误、可能原因与补救措施:无 kubeconfig 上下文,说明未连接集群,可运行 az aks get-credentials 或等效命令;控制器处于 CrashLoopBackOff,可能是配置或 RBAC 问题,可通过 kubectl logs -n airunway-system -l control-plane=controller-manager --previous 查看;提供商未就绪,可能是镜像拉取或 RBAC 问题,可查看对应命名空间下提供商 Pod 日志;ModelDeployment 卡在 Pending,可能是 GPU 调度失败或提供商未就绪,可用 kubectl describe modeldeployment <name> -n <namespace> 查看事件;推理时出现 bfloat16 错误,原因可能是 T4 或 V100 不支持 bfloat16,可在服务参数中加入 --dtype float16。完整的错误处理与回滚流程参见 troubleshooting.md。