该技能用于设计安全的多租户 LLM 托管平台，让多个团队或外部客户共用推理基础设施，同时兼顾隔离、性能与成本治理。适用场景包括：构建多团队共享的内部 LLM 平台、为外部客户提供带隔离要求的推理托管、实现按租户的配额/计费/限流、设计多模型多租户的请求路由，以及避免共享 GPU 上的噪声邻居问题。
前提条件：具备 GPU 节点池的 Kubernetes 集群、API 网关或 LLM 网关（如 LiteLLM、Envoy、Kong）、用于按租户观测的 Prometheus + Grafana、用于限流状态的 Redis，以及计费系统或成本归因数据库。
主要能力：1）隔离模型：每个请求带强租户身份、按租户 API 密钥与模型访问范围、对高风险租户使用命名空间或工作负载隔离、严格的数据保留与日志分区控制。2）使用 vLLM 做多模型服务，可按模型层级（premium/economy）配置副本、tensor-parallel-size、max-model-len、gpu-memory-utilization、max-num-seqs 与 prefix caching 等参数。3）按租户配额配置，包含允许模型、RPM/TPM、并发请求数、预算与告警阈值、优先级。4）高风险租户的命名空间隔离，含 NetworkPolicy 与 ResourceQuota。5）请求路由与限流：路由器校验租户、模型权限、RPM、并发与预算，记录用量与费用，并可结合 Envoy 做按租户限流。6）计费导出：按租户与月份汇总请求、Token 与费用。7）噪声邻居控制：按租户 RPM/TPM、并发上限与队列隔离、加权优先级调度、背压与优雅降级。8）按租户监控，包含预算告警、限流告警与错误率告警。9）安全基线：传输与静态数据加密、禁止跨租户缓存泄漏、按角色限制调试数据访问、审计特权管理操作。
使用方式：按文档提供的 Kubernetes YAML、ConfigMap、网关路由与计费导出脚本等配置进行部署；运维上按运行手册完成租户入职、签发虚拟密钥与配额档案、验证可观测性与计费标签、执行租户级负载与安全测试，再以金丝雀限制放量。
限制：资料未提供具体收费、价格与平台适用性结论；实际部署需自行具备上述前提组件，具体版本与兼容性暂未提供。