SuperAPI AI 工具集

iblai-vibe-security-prompt-injection

安全与审计

查看项目

更新于 10-15 22:16

技能介绍

用途:审计使用 AI、LLM 集成或 AI 智能体的应用,排查提示注入(OWASP LLM01)、权限提升、授权绕过及多租户数据泄漏。禁止在未获授权的情况下对生产系统构造攻击载荷;CTF 与授权红队场景除外。

主要流程:

  1. 绘制 AI 攻击面:搜索 LLM 调用(openai、anthropic、langchain 等)及隐性 AI 功能,记录系统提示、用户/外部输入、可执行动作、输出用途与权限上下文。
  2. 审计提示构造:检查未加分隔符的插值、RAG 结果直接注入、系统提示含密钥、思维链暴露。
  3. 审计输出处理:LLM 输出被渲染为 HTML(XSS)、传给 eval/exec、拼入 SQL、或链式传给下一模型。
  4. 审计工具调用与智能体:工具清单与参数校验、破坏性操作审批、无界循环、记忆投毒、多智能体委派、自我修改、MCP 服务器安全、代码执行沙箱。
  5. 检查提示泄露:常见提取话术与编码绕过。
  6. 审计权限边界:混淆代理(AI 是否继承调用者权限)、越权、RAG 多租户过滤、跨权限注入。
  7. 评估防御层:输入/输出校验、提示分隔、工具校验、最小权限、循环上限、记忆隔离、MCP 认证、限流、监控、人工介入。

输出为提示注入审计报告,含集成映射表、分级发现(按文件行号、类别、攻击场景、漏洞代码与修复)、防御评估与优先级修复清单。限制:仅审计用户提供的代码,需给出防御性修复;缺失信息(如具体平台配置)暂未提供。