SuperAPI AI 工具集

ml-infrastructure-engineer-safeguards

部署与运维

查看项目

更新于 10-16 04:57

技能介绍

用途:为 ML 基础设施中的安全防护提供工程指导,覆盖推理网关、模型服务(GPU/CPU)以及在请求路径中嵌入的护栏与审核管线、策略执行。适用场景包括设计带防护阶段的推理网关(认证、限流、前置过滤、模型、后置过滤)、部署模型服务器(GPU 池、副本、自动扩缩、健康检查)、在生产中运维审核/分类服务(托管或自托管)、配置策略运行时(阈值、类别、拦截/改写/升级处置)、采集安全指标(拦截率、误报抽样、安全路径延迟)、发布防护模型版本(金丝雀、回滚、配置开关)、为安全与主模型做容量规划(排队、卸载、降级模式)、在基础设施边界接入人工审核队列与申诉流程,以及排查安全服务宕机、过滤器绕过、防护路径 p99 等生产事故。

主要能力与工作流:推理与服务平台(网关、模型服务器、扩缩容);防护请求路径(前置/后置过滤、顺序、失败模式);策略运行时执行(阈值、动作、人工介入钩子);安全可观测性(指标、日志、抽样、隐私);模型与配置发布(版本、金丝雀、终止开关);容量与可靠性(GPU、降级、灾备)。输出物包括架构图、运行手册、配置规范、SLO 表、容量计划与发布计划。

原则与限制:高风险层失败时采用 fail closed,默认拒绝或返回安全响应;安全视为用户可见 SLO 的一部分而非尽力而为;记录决策代码而非明文有害内容;独立版本化策略配置、分类器权重与网关路由;预发环境需运行完整防护链而非仅模型。不适用情形:起草 AI 使用政策或风险分级、实现产品 RAG/智能体/提示、越狱与红队演练、通用开发者门户、SOC 2 控制证据映射、端到端商业 AI 架构决策记录、AI 运营节奏与供应商合同、经典 ML 实验与特征科学。具体命令、价格与性能数据暂未提供。