SuperAPI AI 工具集

secure-deployment

部署与运维

查看项目

更新于 10-16 03:43

技能介绍

用途:为 AI/ML 模型生产部署提供安全最佳实践,采用纵深防御与零信任架构,降低供应链与过度授权风险(对应 OWASP LLM03、LLM06,NIST Govern、Manage)。

主要能力:

  1. 预部署检查:模型漏洞扫描、依赖审计、偏见评估、对抗鲁棒性测试、PII 泄露检测、许可证合规、密钥检测;示例类 PreDeploymentChecker 聚合依赖审计、密钥扫描、PII 检测、鲁棒性与偏见评估。
  2. 部署配置:容器使用 distroless 基础镜像、非 root 用户(UID 65532)、只读文件系统、丢弃全部 capabilities、seccomp runtime/default;网络仅经 API 网关入站、出口白名单、强制 mTLS;密钥由 HashiCorp Vault 侧车注入,24 小时轮换,不写入环境变量;模型存储使用 AES-256-GCM 加密、RSA-4096 签名、SHA-256 完整性校验与 RBAC。
  3. 运行时防护:gvisor 隔离、命名空间隔离、结构化 JSON 日志、Prometheus 指标、OpenTelemetry 追踪、PagerDuty 告警;限制 CPU、内存、GPU 显存,超时 30 秒,并含速率限制与内存限制的 protected_inference 示例。
  4. 灰度发布:金丝雀初始 5%,每次增 10%,间隔 1 小时;成功标准为错误率<0.1%、p99 延迟<5s、无安全告警;错误率>1%、安全告警或 p99>10s 自动回滚。
  5. CI/CD 安全门禁:pip-audit --strict、gitleaks detect、trivy image $IMAGE、syft $IMAGE -o spdx-json、cosign sign $IMAGE、cosign verify $IMAGE、kubectl apply -f canary.yaml。

使用方式:按预部署、部署、运行时三阶段核对安全清单,并结合 CI/CD 工作流与 ArgoCD GitOps 部署落地;可与安全测试、CI/CD 自动化等组件集成。

限制:资料仅给出类别与配置示例,未提供具体安装命令、版本依赖、收费或实测效果;实际落地需结合自身环境验证。