用途
该技能用于自动化地将机器学习模型部署到生产环境，借助容器（例如 Docker）与编排工具（例如 Kubernetes），确保模型服务具备可扩展性与可靠性。
主要能力
- 从模型产物构建 Docker 镜像，并将其部署到 Kubernetes 集群。
- 通过标签支持模型版本管理，并处理滚动更新以实现零停机部署。
- 集成 TensorFlow 或 PyTorch 等机器学习框架，通过 API 提供模型服务。
- 管理资源分配，例如在 Kubernetes Pod 中设置 CPU/GPU 请求与限制，如
resources: limits: cpu: 2。 - 基于流量使用 Kubernetes Horizontal Pod Autoscaler 自动扩缩容。
使用方式
使用该技能时，首先将模型准备为 Docker 友好的格式，然后构建并部署。始终为认证设置环境变量，例如用于 Kubernetes 访问的 $KUBECONFIG。
模式 1：基本部署
- 将模型导出为保存文件（例如
model.h5），并编写 Dockerfile。 - 在本地或 CI/CD 中构建镜像。
- 应用 Kubernetes 部署 YAML 来编排容器。
模式 2：更新现有部署
- 为新模型版本打标签，并重新构建 Docker 镜像。
- 使用 kubectl 应用更改，指定新的镜像标签。
- 监控发布过程，必要时使用内置命令回滚。
开始前始终验证集群访问权限；使用 kubectl get nodes 检查连通性。
常用命令/API
核心操作可使用以下 CLI 命令。API 交互请参考 Kubernetes REST API 端点。
构建并标记 Docker 镜像：
docker build -t mymlmodel:v1 .
该命令从当前目录创建镜像。
推送镜像到仓库：
docker push mymlmodel:v1
需要通过环境变量 $DOCKER_REGISTRY_TOKEN 进行认证。
部署到 Kubernetes：
kubectl apply -f deployment.yaml
其中 deployment.yaml 包含：
apiVersion: apps/v1
kind: Deployment
metadata: name: myml-deployment
spec: replicas: 3, template: spec: containers: - name: model-server image: mymlmodel:v1
扩缩部署：
kubectl scale deployment myml-deployment --replicas=5
查询部署的 API 端点：
使用 Kubernetes API 的 GET /apis/apps/v1/namespaces/default/deployments，通过 $KUBE_API_TOKEN 中的 bearer token 进行认证。
配置格式使用 Kubernetes YAML 文件，例如：
apiVersion: v1
kind: Service
metadata: name: model-service
spec: selector: app: mymlmodel, ports: - protocol: TCP port: 80
集成说明
通过向流水线 YAML 添加步骤，将该技能与 GitHub Actions 或 Jenkins 等 CI/CD 工具集成。例如，在 GitHub Actions 中：
jobs:
deploy:
runs-on: ubuntu-latest
steps:
- uses: actions/checkout@v2
- run: docker build -t mymlmodel:${{ github.sha }} .
- run: kubectl apply -f k8s/deployment.yaml --context=$KUBE_CONTEXT
为密钥设置环境变量，例如用于仓库访问的 $GITHUB_TOKEN 和用于集群选择的 $KUBE_CONTEXT。确保机器学习流水线输出为标准格式，例如 pickle 模型文件，以便无缝集成 Docker。
错误处理
主动处理常见错误。如果 docker build 失败并提示 "no such file"，请验证 Dockerfile 路径和所需文件。对于 Kubernetes 错误如 "image pull failed"，请通过 $DOCKER_REGISTRY_TOKEN 检查镜像仓库凭据。
错误：Pod 未就绪 – 通过 kubectl logs <pod-name> 检查日志，并确保部署 YAML 中的资源匹配，例如添加 resources: requests: memory: "1Gi"。
错误：认证失败 – 正确设置环境变量，例如 export KUBECONFIG=~/.kube/config，并使用 kubectl get pods 测试。
对于 API 错误，如 401 Unauthorized，使用从 $KUBE_API_TOKEN 刷新的令牌重试，并在脚本中使用指数退避。
始终在自动化脚本中包含 try-catch，例如：
import subprocess
try:
subprocess.run(["kubectl", "apply", "-f", "deployment.yaml"], check=True)
except subprocess.CalledProcessError as e:
print(f"Deployment failed: {e}")
适用场景
- 需要将训练好的机器学习模型容器化并部署到生产环境进行实时推理时。
- 因模型重训练或性能问题需要更新现有部署时。
- 在 MLOps 流水线中，模型必须易于版本化、监控和回滚时。
- 与 AWS EKS 或 Google GKE 等云提供商集成以实现托管编排时。
限制
资料中未明确说明该技能的具体限制、收费模式、价格、支持平台或效果保证。使用前需自行确保具备 Docker、Kubernetes 及相关云服务的访问权限与认证配置。