用途:该技能面向机器学习与 AI 安全方向,用于梳理对抗性机器学习相关知识,包括对抗样本、数据投毒、模型后门/木马、规避攻击以及隐私攻击等主题,适合研究、防护与资源整理。
主要能力:按攻击类型给出分类框架。对抗样本区分白盒、黑盒、可迁移攻击、物理世界对抗样本与补丁攻击;投毒攻击包含标签翻转、干净标签投毒、梯度匹配投毒与训练期后门植入;后门攻击包含触发器、面向 LLM 的指令后门、权重空间后门与供应链后门;规避攻击含特征空间与问题空间规避及针对防御的自适应攻击;隐私攻击含成员推断、模型反演、训练数据提取与模型窃取。防御类别列出对抗训练、可认证鲁棒性、输入预处理、异常检测与差分隐私。
工具与框架:列出 Adversarial Robustness Toolbox (ART,IBM)、CleverHans (TensorFlow)、Foolbox (PyTorch/JAX/TensorFlow)、TextAttack (NLP 对抗攻击)、SecML。
使用方式:将相关内容按主题归入 AI 安全攻击、隐私与提取、AI 安全库、基准与标准等分类;添加资源时保持 ML/AI 安全方向、URL 不重复,并优先选择同行评审或维护良好的工具。需要更多工具、论文与资源时,可获取完整清单:https://raw.githubusercontent.com/gmh5225/awesome-ai-security/refs/heads/main/README.md
限制:资料未提供具体安装命令、版本、平台、收费与效果信息,暂未提供;正文所列主题与工具仅为范围说明,不构成具体使用步骤或性能承诺。