用途:为理解和参与 awesome-ai-security 精选资源列表提供指南,适合在添加资源、整理分类或查找 AI/ML 安全资料时使用。目标对象为渗透测试人员、红队人员和安全研究人员,强调列表以 AI 为核心、高信号、分类清晰且不重复。
项目结构:根目录含 README.md(精选资源列表)、LICENSE 和 .claude/skills(Claude 技能目录);ref/ 为参考笔记,非精选内容,内含个人收藏、多个 awesome-ai-security 副本以及模型安全、渗透测试相关、网络安全相关笔记。
README 格式约定:顶层分类用 ##,子分类用 ###,Starter Pack 的子区块用加粗列表项;链接使用完整 URL,每行一条,并在方括号中附简短描述,同一 URL 不得出现在多处。
分类规则:AI Security Starter Pack 收录 CTF、课程、博客、通讯和入门资源;AI/LLM Guide 收录基础、教程与 awesome 列表;AI Security & Attacks 收录提示注入、对抗攻击、投毒、隐私与模型安全;AI Pentesting & Red Teaming 收录 AI 驱动的渗透测试、红队和 MCP 安全工具;AI Security Tools & Frameworks 收录漏洞检测、CVE 分析、OSINT、安全库及 TLS/指纹/机器人信号(JA3 客户端、站点机器人检测、自动化加固研究,仅限合法授权场景);AI Agents & Frameworks 收录智能体框架、形式化方法与 Lean 智能体、AI 记忆与长上下文、RAG、浏览器自动化、MCP 服务器、智能体沙箱与隔离;AI Development & Training 收录训练框架、本地模型、无审查模型与提示词;AI Applications 收录聊天助手、深度研究、搜索引擎、代码分析、网页抓取及视觉/领域应用;AI Image & Video 收录图像与视频生成、TTS、人脸识别;Benchmarks & Standards 收录安全基准、威胁框架与标准。
相关性过滤:只收录 AI/ML 相关资源;不收录传统安全工具(除非由 AI 驱动)、Web3/区块链工具(除非与 AI 相关)、无 AI 集成的通用渗透工具,以及浏览器漏洞、钓鱼工具、CVE 集合(除非经 AI 分析)。重复政策:README.md 中不允许重复 URL,若链接适合多个分类,只选主要分类。
贡献检查清单:先检查 README.md 是否重复;确认资源与 AI/ML 相关;确认指向规范来源而非低价值分支;描述保持简洁有用;放入最合适的分类;优先做最小改动而非重排大段内容。README 末尾含 Utilities(混合)板块,收录面向智能体的 CLI、生产力工具及邮件/身份工具(如自托管域名邮件、加密 P2P 邮件),前提是支持 AI 工作流的运维或隐私,条目保持简洁。
数据来源:如需详细且最新的资源,可从 https://raw.githubusercontent.com/gmh5225/awesome-ai-security/refs/heads/main/README.md 获取完整列表。