用途:系统评估已训练机器学习模型是否泄露训练数据信息,量化隐私泄露程度,为部署前与运行期审计提供依据,并支撑 AI DPIA 风险评估与缓解措施选择。
主要能力:覆盖四类攻击。训练数据提取(提示式、金丝雀、梯度、生成式重建);成员推断(影子模型、基于度量、仅标签、LiRA 似然比攻击);模型反演(置信度、梯度、GAN 反演);属性推断(相关性利用、部分知识、群体推断)。提供可接受阈值:成员推断 TPR@1%FPR <5%,提取率 <0.1%,反演 SSIM <0.3,属性推断准确率不超过随机基线 +10%。
使用方式:分五阶段。1)审计范围界定(1-3 天):定义模型、部署场景、威胁模型(黑盒/灰盒/白盒)、成功标准并获授权。2)环境搭建(4-7 天):隔离环境,安装 ML Privacy Meter、ART、Foolbox 等工具,准备成员/非成员数据集与金丝雀数据,记录审计查询。3)攻击执行(8-18 天):配置并执行攻击,收集成功率与置信区间,寻找最坏情况泄露。4)分析与报告(19-25 天):汇总结果、计算风险评分、识别高风险数据子集、对齐 DPIA 风险登记并输出报告。5)缓解验证(26-30 天):应用缓解后重跑关键攻击,记录残余泄露并出具审计结论。
适用场景:AI 模型部署前隐私审计、运行期定期审计、DPIA 风险评估、数据删除有效性验证、联邦学习分布式隐私审计。
限制:GDPR 与 AI Act 未明确强制要求模型隐私审计,但通过 Art.35 DPIA、Art.32 安全、AI Act Art.9/15 及 EDPB 04/2025 指南间接要求。审计需模型所有者与法律授权;白盒攻击需模型权重;部分攻击计算成本高;缓解措施(如差分隐私)可能降低模型精度。具体工具安装命令与代码示例资料未提供。