SuperAPI AI 工具集

prompt-injection

智能体与模型

查看项目

更新于 10-15 20:28

技能介绍

用途:审计集成 AI 功能、LLM 调用或 AI 智能体的应用,排查提示注入、权限提升与授权绕过等漏洞。提示注入被列为 LLM 应用首要风险(OWASP LLM01),指不可信输入影响模型遵循的指令,导致忽略系统提示、泄露机密或执行未授权操作。

主要能力:区分三类攻击——直接注入(用户直接输入恶意内容)、间接注入(在网页、邮件、文档、数据库记录、工具输出、RAG 片段中埋入指令)、跨权限注入(低权限用户污染共享数据,被高权限用户的 AI 会话消费)。审计流程包括:映射 AI 攻击面(检索 openai、anthropic、langchain 等调用及 AI 搜索、生成、聊天、MCP 服务器等隐性功能);审计提示构造(未净化插值、缺少分隔边界、系统提示含密钥);审计输出处理(HTML 渲染导致 XSS、eval/exec 执行、拼接 SQL、链式注入);审计工具调用与智能体(工具清单与参数校验、破坏性操作门控、无限循环、记忆投毒、多智能体委派、自修改、MCP 安全、代码沙箱);检查提示泄露;审计权限边界(混淆代理、越权、多租户数据泄露);评估防御层并给出按优先级排序的修复建议。

使用方式:由用户提供或指定代码,按上述步骤审计,最终输出含 LLM 集成映射表、按严重级别排列的发现(文件位置、类别、描述、攻击场景、脆弱代码、修复方案)、防御评估表与优先级修复清单的报告。

适用场景:LLM 集成应用、AI 智能体、RAG 系统、多租户 SaaS 的 AI 功能安全评审,以及授权红队或 CTF 测试。

限制:仅审计用户提供或指向的代码;每个发现须给出防御性修复;未经明确授权不得为生产系统构造真实攻击载荷;拒绝构建用于未授权用途的提示注入攻击工具。具体安装命令与运行方式暂未提供。