SuperAPI AI 工具集

adversarial-training

安全与审计

查看项目

更新于 10-16 09:51

技能介绍

用途:该技能通过对抗样本与攻击模拟训练更鲁棒的 AI 模型,属于防御策略方向,对应 OWASP LLM04(数据投毒)、LLM09(错误信息)与 NIST 的 Manage 函数,使用场景为提升模型对攻击的鲁棒性。

主要能力:提供三类训练方法。标准对抗训练(standard)以 PGD 生成对抗样本,在干净与对抗样本上加权训练,鲁棒性提升 30-50%,精度代价 5-15%,复杂度中等。TRADES 防御通过自然损失与 KL 散度鲁棒损失组合、beta 权衡参数调节,鲁棒性提升 40-60%,精度代价 3-8%。认证防御(certified)使用随机化平滑,给出可证明的鲁棒半径,精度代价 10-20%,复杂度高。资料提供 AdversarialTrainer、TRADESTrainer、CertifiedDefense 等类的核心代码示意。

训练覆盖的攻击类型:FGSM(单步,优先级中,快)、PGD(多步,高,中)、C&W(优化,高,慢)、AutoAttack(集成,关键,极慢)、Patch Attack(物理,中,中)、Semantic(扰动,高,中)。

使用方式:资料给出四阶段流程——基线评估(干净精度、初始鲁棒性、弱攻击向量)、对抗数据生成(多样对抗样本、多攻击类型、强度平衡)、训练(混合干净与对抗数据、监控精度权衡、验证集早停)、评估(留出攻击测试、鲁棒性提升、避免过度精度损失)。另有 LLM 专用训练,通过同义词替换、字符级扰动、越狱前缀生成对抗提示,并在训练中混入对抗提示。集成点包括 Agent 05 实现训练、adversarial-examples 技能生成攻击、/defend 应用训练建议、CI/CD 自动化鲁棒性测试。

效果指标:对抗样本精度目标 >70%,干净精度目标为基线 >95%,认证半径目标 >0.5(L2 范数),攻击覆盖目标为所有主要攻击类型。

限制与排错:精度下降过多可降低对抗比例、调整 beta;训练不稳定可用课程学习、从弱攻击开始;对新攻击不鲁棒需加入更多样攻击类型。安装与平台支持等事实暂未提供。