用途:该技能针对通过推理 API 滥用实施的模型提取类攻击(MITRE ATLAS AML.T0024,Exfiltration via AI Inference API),帮助模型所有者检测克隆(AML.T0024.002 提取 ML 模型)、反演(AML.T0024.001)与训练数据成员推理(AML.T0024.000)。适用于运营公开或合作方推理 API、部署前 AI 红队自测、验证防护控制、排查异常计费/用量激增及隐私事件响应。
主要能力:记录按主体的查询量、输入指纹与是否请求概率/对数几率;按高查询量、高唯一输入比、高全概率请求率对主体打分,标记疑似提取行为;用对抗鲁棒性工具箱(ART)对自有模型做提取与成员推理自测,报告代理模型保真度与成员推理准确率(以 50% 为无泄漏基线);应用并复测标签-only 响应、置信度取整/扰动、速率限制、预测投毒与水印等防御;将告警接入 SIEM 并执行限流、吊销密钥、留存证据的响应流程。
使用方式:需 Python 3.9+、推理 API 访问日志与测试授权。自测安装:pip install adversarial-robustness-toolbox scikit-learn numpy。流程为:为 API 埋点采集检测信号;按主体评分;用 ART 的 KnockoffNets/CopycatCNN 测量查询预算下的保真度;用 MembershipInferenceBlackBox 量化泄漏;施加并复测防御;告警响应。
限制:仅限防御者测试自有模型或在书面授权下的红队使用;未经许可查询第三方模型以克隆、重建训练数据或推断成员可能违反服务条款、版权与隐私法律。具体检测阈值、部署集成方式与收费信息暂未提供。