ai-security-knowledge-base

项目定位

AI Security Knowledge Base（项目内部代号 AI_Security_Top）是一个中文 AI 安全文档项目，由 ara.so 的 Security Skills 系列整理收录，仓库由 GhostWolfLab 维护。它不是代码库，而是一个知识仓库，以 Markdown 文档为主体，同时包含 Python 示例代码，可作为安全研究人员、渗透测试人员和 AI 开发者的参考指南与实用资源。

覆盖范围

项目覆盖从 AI 基础到高级威胁的完整谱系：

• AI 基础：深度学习架构、监督/无监督学习、强化学习；
• 威胁建模：OWASP ML/LLM Top 10、MCP 安全、技能（skill）安全框架；
• 红队操作：进攻性 AI 战术、对抗性 ML、深度伪造生成、AI 驱动的渗透测试；
• 蓝队防御：基于 ML 的威胁检测、自动化审计、防御算法。

安装与文档结构

该项目为文档/知识仓库，通过克隆获取：

git clone https://github.com/GhostWolfLab/AI_Security_Top.git
cd AI_Security_Top
ls *.md

预期文档文件包括：AI.md、深度学习.md、监督学习算法.md、AI安全.md、MCP安全.md、进攻性AI.md、算法赋能安全.md 等。

基础 AI 概念文档

• AI.md：人工智能概述、历史与核心概念；
• 深度学习.md：CNN、RNN、Transformer 等架构；
• 监督学习算法.md：线性/逻辑回归、SVM、决策树、随机森林、朴素贝叶斯；
• 无监督学习算法.md：K-Means、GMM 聚类、关联规则；
• 强化学习.md：基于智能体的决策与博弈论。

AI 安全框架文档

AI安全.md 涵盖 OWASP ML/LLM Top 10 漏洞：提示注入（直接与间接）、不安全输出处理、训练数据投毒、模型拒绝服务、供应链漏洞、敏感信息泄露、不安全插件设计、过度代理、过度依赖、模型窃取。

MCP安全.md 涵盖模型上下文协议安全：工具投毒攻击、Cursor IDE 漏洞、协议级利用。

skill安全.md 涵盖 AI 技能安全配置与防御实践。

进攻性 AI 战术

进攻性AI.md 涉及红队操作，包括 AI 驱动的漏洞扫描（引用工具 Shennina、Shannon）、对抗性 ML 规避（引用工具 Pesidious、MalwareGAN）、深度伪造生成（引用工具 Deep-Live-Cam）与语音克隆（引用工具 RVC-WebUI、Voice-Pro），并提供相应的 Python 示例代码框架。

防御性 AI 应用

算法赋能安全.md 涉及蓝队 ML 应用：基于 IsolationForest 的网络流量异常检测、基于 Transformer 的自动化威胁狩猎日志分析。

常见攻击模式与配置实践

文档还包含提示注入检测与净化、训练数据投毒检测的代码示例，以及安全 LLM 部署配置示例（API 令牌校验、限流、输入校验）。附录还涉及故障排查（提示注入绕过、生产环境模型规避、深度伪造检测失败）与自动化安全扫描流水线示例。

参考与许可

文档引用 OWASP LLM Top 10、Adversarial Robustness Toolbox 及项目仓库地址。许可证为 MIT，文档语言为中文，代码示例为 Python。最后更新日期为 2026-03-06。

限制

该资源为文档知识库，不提供可直接运行的库；示例代码的完整性、可运行性与实际效果资料未提供验证信息。具体收费、价格与平台信息暂未提供。