用途:在获得系统所有者明确书面授权的前提下,对基于 LLM 的应用与 AI 智能体开展红队式安全评估,包括提示词注入、工具滥用、RAG 内容暴露、记忆投毒、系统提示词提取等方向。工具明确标注仅限教育目的或授权评估,未获授权时保持只读并只提供防御性建议,建议在沙箱、一次性虚拟机或受控实验环境中进行。
强制确认门槛:执行任何探测、利用、变更、持久化、数据提取或凭证访问类命令前,需让用户说明确切的目标 URL、IP、账号或资源,确认书面授权与允许范围,展示待执行命令及其预期效果,并在当前对话中获得明确确认。缺少确认时保持只读。
适用场景:ChatBot、RAG、代码助手等 LLM 应用安全测试;AI 智能体安全审计(工具调用、记忆持久化、多智能体通信);直接与间接提示词注入测试;模型供应链安全评估;AI 系统攻击模拟。
工作流:一、侦察,映射攻击面,识别 LLM 功能入口、已注册工具、数据流、系统提示词泄露面与人在回路审批条件。二、提示词注入测试,按难度递进,从直接覆盖、角色扮演越狱、编码绕过(Base64、Unicode 同形字、零宽字符)、多轮渐进提取到间接注入(RAG/外部内容)。三、工具滥用测试,枚举工具与参数,测试越权调用、绕过审批、经工具参数的 Shell/代码注入并验证最小权限。四、记忆与上下文投毒,向知识库注入恶意文档测试 RAG 污染与长期记忆投毒,验证检索时权限控制。五、输出安全测试,覆盖下游浏览器 XSS、数据库 SQL 注入、Shell 命令注入、API 的 SSRF 与越权。六、系统提示词提取,使用级联提取并嵌入 canary token 验证防御。
工具链:garak(pip install garak)用于 100+ 注入探针自动化;PyRIT(pip install pyrit)用于多轮攻击编排;promptfoo(npm install -g promptfoo)用于 AI 生成攻击与回归测试;promptmap2、AgentThreatBench。另有 OWASP LLM + ASI Top 10 对照、提示词注入方法论、智能体安全测试框架等参考文档。任务完成前需自检是否逐步执行、使用真实工具路径、产出可复现证据并回写清单。
限制:模型行为具有非确定性,结论需重复试验;供应商侧防护可能随时变化。本技能改编自 zhaoxuya520/reverse-skill(MIT)。具体价格、平台支持等信息暂未提供。