SuperAPI AI 工具集

ai-llm-app-attack

智能体与模型

查看项目

更新于 10-16 08:39

技能介绍

用途:针对大模型应用的真实攻击面开展安全测试,覆盖 LLM 应用、Agent、RAG、MCP 插件与 AI 模型文件。

主要能力: 提示注入,分直接注入(如诱导输出 system prompt)与间接注入(指令藏在 RAG 文档、网页、邮件、工具返回值、图片 EXIF 中,进而劫持 Agent)。 Agent 工具滥用,被视为最高危、可直达 RCE:code interpreter 注入执行、fetch 工具 SSRF 访问内网或云元数据、文件工具读取 /etc/passwd 或写入 webshell、SQL 工具导出全表、shell 工具命令注入。验证要求实际触发工具副作用(OOB 回连、读到文件)后才记为 Fact。 其他面:系统提示泄露、RAG 投毒、过度授权与跨租户越权、MCP 插件供应链、资源成本攻击(烧 token);输出处理风险,即 LLM 输出进入 eval、SQL 或前端导致二次注入与存储型 XSS。 模型文件:torch.load 默认使用 pickle,可导致 RCE。

使用方式:抓取流量定位 /chat、/agent、/tool 等端点,并向 Agent 询问“你有哪些工具”以枚举工具面。

适用场景:LLM 应用与智能体渗透测试、RAG 与 MCP 插件安全评估、AI 模型文件风险排查。

限制:资料未提供具体安装命令、依赖、收费与平台支持信息,暂未提供。