用途:面向 AI/ML 代码库的安全威胁扫描,识别提示注入、数据投毒、模型提取、对抗输入、不安全模型服务等 AI 特有风险。
主要能力:静态分析源码,检测未净化用户输入拼接进提示词、缺少输入校验与模板注入向量;识别未校验的训练数据管道与缺失完整性检查;发现无速率限制或缺少鉴权的推理端点、泄露模型细节的详尽报错;检测模型输入缺少边界检查与异常检测;识别从不可信来源加载模型、pickle 反序列化风险与缺少模型签名验证。工具为 ai_threat_scanner.py,关键参数包括 --path、--category、--min-severity、--format。
使用方式:运行前先确认扫描目标路径、威胁类别(all 或 prompt-injection、data-poisoning、model-extraction、adversarial-input、insecure-serving)、严重级别阈值与用途(完整审计或部署前门禁);信息不明确时应询问,若用户要求直接起草则先列明假设。常用命令:python scripts/ai_threat_scanner.py --path ./my-ai-project;加 --format json 输出 JSON;加 --category prompt-injection 只扫提示注入;加 --min-severity high 设阈值。
适用场景:完整 AI 安全审计(按类别分组、按严重级别排序、修复后复扫)与部署前安全门禁(确保无 critical/high 才上线,并记录已接受的中低风险)。
限制:资料未提供支持的编程语言、依赖环境、安装步骤、扫描准确率、误报率及收费信息;该技能为静态分析,不替代运行时防护与人工审查。