awesome-ai-security-tools-guide

用途

本技能提供对「Awesome AI Security Tools」精选清单的导航与工具推荐能力，帮助使用者按安全任务方向快速定位公开源码、研究和商业工具。它本身不执行扫描或防护功能，而是一个面向 AI 安全工具选型的知识型技能。

清单结构与类型图例

清单按 15 个以上类别组织工具，涵盖 autotriage（自动分类）、agent security（智能体安全）、AI/ML supply chain（AI/ML 供应链）、pentest agents（渗透测试智能体）、AI SAST、LLM 驱动模糊测试、threat intelligence（威胁情报）、SOC/SIEM 分类、逆向工程和 LLM 红队测试等。

类型图例：

🟢 公开源码 / 开源
🔬 研究（论文 / 基准 / 数据集 / 框架）
🟠 含开放组件的商业工具
⚠️ 限制性、非商业或许可证不明确/缺失

每条条目包含 GitHub 星标、最近提交徽章以及相关或替代工具。

获取方式

该仓库本身是精选清单（README.md），无需安装。可克隆到本地离线参考：

git clone https://github.com/scadastrangelove/awesome-ai-security-tools.git cd awesome-ai-security-tools

或在线浏览：https://github.com/scadastrangelove/awesome-ai-security-tools

主要类别与推荐工具

1. 安全发现自动分类

使用 LLM 对扫描器输出进行分类、去重和验证。推荐：nuclei-autotriage（两阶段 LLM 分类：证伪器 + 红队复核，处理 Nuclei JSONL 发现）、seclab-taskflow-agent（GitHub Security Lab，YAML 驱动的任务流，用于 CodeQL/SAST 误报过滤）、honeyslop（代码金丝雀诱饵，检测 AI 幻觉漏洞报告）。

2. AI 智能体与编码智能体安全

扫描器与审计器：agent-audit（针对 Claude Code、Codex CLI、OpenClaw 的取证审计器，内置 296 条规则，扫描 skills/plugins/MCP 清单）、AI-Infra-Guard（腾讯朱雀实验室全栈 AI 红队平台）、SkillSpector（NVIDIA，AI 智能体 skill 安全扫描器，含 AST/YARA/污点检查）、Ramparts（Rust 编写的 MCP 服务器与智能体 skill 包扫描器）、mcp-armor（Aira Security，自动发现本地 MCP 安全扫描器）。框架、规则标准与基准：OWASP Top 10 for LLM Applications、AgentDojo（LLM 智能体安全基准）、MAGTF（多智能体安全评估）。运行时防护与执行：Invariant（商业）、AgentLock（AI 操作最小权限执行）。

3. AI/ML 供应链与模型安全

扫描 ML 产物、检测后门并保护模型流水线。推荐：ModelScan（Protect AI，Pickle/safetensors 后门扫描）、Garak（NVIDIA，LLM 漏洞扫描器）、MLSploit（ML 对抗测试框架）。

4. 渗透测试与红队智能体

执行渗透测试的自主智能体：PentestGPT、HackerGPT、WizardLM-Uncensored。

5. AI 驱动的 SAST 与安全代码审查

Pixee（Codemodder，用 LLM 自动修复 SAST 发现）、Semgrep Assistant（商业，LLM 规则建议）、GitLab Duo Code Review（商业，AI 代码审查）。

6. LLM 驱动的模糊测试

Harness/目标生成：FuzzGPT、WhiteFox（Meta，LLM 白盒模糊测试）；对 LLM 本身模糊测试：Promptfuzz、TensorFuzz。

7. 威胁情报

ThreatGen（LLM 威胁模型生成）、MITRE Caldera（AutoRecon，自主对手模拟）、Cyber Threat Intelligence LLM。

8. 日志分析 / SIEM / SOC 分类

ai-soc-triage-assistant（SOC 告警分类，映射 MITRE ATT&CK）、SigmaOptimizer（从日志生成与优化 Sigma 规则）、soctalk（自然语言 SIEM 查询）。

9. 逆向工程

Gepetto（IDA 插件，GPT 驱动 RE 助手）、Ghidra GPT、Rizin/Cutter AI。

10. LLM 红队测试与护栏

扫描器、评估与护栏：Garak、PyRIT（微软 LLM 风险识别工具包）、NeMo Guardrails（NVIDIA 可编程护栏）、Lakera Guard（商业生产护栏）。提示注入分类模型：deberta-v3-base-prompt-injection-v2（Hugging Face）、Prompt Injection Detector（Lakera）。

常见使用模式

清单提供了三类典型模式示例：用 LLM 对扫描器输出进行分类；对智能体 skill 进行安全审计；模型供应链扫描（安装 ModelScan 后批量扫描目录中模型并聚合结果）。

排障部分涵盖：OpenAI 速率限制（改用本地 LLM 端点或批处理与退避）；agent-audit 未检测到 skill（检查各智能体配置路径或手动指定）；ModelScan 误报（查看隔离原因并白名单）；LLM 幻觉漏洞（使用证伪器多阶段验证）。

环境变量

多数工具需要 API 密钥或端点，示例包括 OPENAI_API_KEY、AZURE_OPENAI_ENDPOINT/KEY、ANTHROPIC_API_KEY、OLLAMA_ENDPOINT、VLLM_ENDPOINT，以及商业工具的 LAKERA_API_KEY、INVARIANT_API_KEY。

限制

清单本身是文档型集合，不执行扫描；各工具的收费、价格、平台与具体效果资料中暂未提供。清单处于活跃维护状态，建议定期查看新增工具。

技能介绍

用途