用途:面向授权评估场景,对 AI 模型做行为层安全评估与取证,包括 API 黑盒提取评估、行为指纹与归属验证、成员推断/隐私泄露评估、对抗样本鲁棒性评估。核心原则是攻击面由可观测性决定:API 返回 logits/概率时可用蒸馏、指纹、成员推断;仅返回标签时降级为决策边界采样与黑盒迁移;拿到模型文件时走白盒梯度方法与阈值成员推断。
主要能力按四类意图分支:怀疑模型被复制或盗用走指纹/水印检测;判断训练样本是否在训练集走成员推断;测试接口可提取性走模型提取(以 API 输出为教师标签训练近似模型,评估一致率与标签分布而非仅精度);测试鲁棒性走对抗样本评估(FGSM/PGD 或黑盒迁移),需先测干净样本基线并设扰动预算。执行前先做输入资产盘点(API 端点与查询预算、模型文件、疑似训练样本、嫌疑副本、基线模型、水印假设),缺失资产先向用户确认,无法提供则说明该路径不可执行。
使用方式:需 python3,按目标框架安装 torch 或 tensorflow(pip install torch / pip install tensorflow,验证 python3 -c "import torch");可选 ART(pip install adversarial-robustness-toolbox,验证 python3 -c "import art")与 requests(pip install requests)。过程需记录方法、指标与参数(随机种子、框架版本),脚本与产物做 sha256 存证。
限制:本技能 guard.require_authorization=true,仅限 owned/ctf/research 等授权场景,未说明归属只做静态评估;模型文件格式解析与权重提取、模型训练微调、部署加固、提示注入与 LLM 侧攻击、API 应用层漏洞测试均不在范围内。查询预算受限、仅标签接口、水印可能被剪枝/微调/蒸馏抹除、成员推断为统计判定(需报告置信区间)等均属已知局限。