llm-attacks-security

用途：该技能用于处理 LLM 安全相关的攻击与防御工作，适用于提示注入攻击与防御、LLM 越狱技术、训练数据提取、模型输出操纵以及 AI 安全绕过等研究方向。文档以速查表形式梳理常见 LLM 漏洞。\n\n主要能力：提示注入部分包含直接注入、经外部数据源的间接注入、系统提示提取、角色扮演攻击、编码或混淆绕过；越狱部分列出 DAN 提示、角色扮演逃逸、多轮操纵、令牌走私、Crescendo 攻击；数据提取部分涵盖训练数据记忆提取、上下文中的 PII 泄露、系统提示泄露、API 密钥或机密提取、模型架构探测；模型操纵部分涉及输出引导、幻觉利用、偏见放大、有害内容生成。文档还引用 OWASP LLM Top 10：LLM01 提示注入、LLM02 不安全输出处理、LLM03 训练数据投毒、LLM04 模型拒绝服务、LLM05 供应链漏洞、LLM06 敏感信息泄露、LLM07 不安全插件设计、LLM08 过度代理、LLM09 过度依赖、LLM10 模型窃取。\n\n使用方式：按用途将链接添加到 README 对应位置——提示注入工具或研究加入 AI Security & Attacks 的 Prompt Injection；越狱技术加入 Model Security；数据提取研究加入 Privacy & Extraction；防御工具加入 Model Security；CTF 或练习加入 AI Security Starter Pack 的 CTFs / Practice。添加内容应保持 AI/LLM 安全主题、URL 不重复、结构改动最小。需要未被覆盖的具体工具、论文或资源时，从 https://raw.githubusercontent.com/gmh5225/awesome-ai-security/refs/heads/main/README.md 获取最新完整列表。\n\n限制：资料未提供具体工具安装命令、收费信息、平台要求或实际攻击步骤，也未说明该技能的执行环境与依赖。