SuperAPI AI 工具集

iblai-security-prompt-injection

安全与审计

查看项目

更新于 10-15 22:16

技能介绍

用途:审计集成 AI 功能、LLM 调用或 AI 智能体的应用,排查提示注入(OWASP LLM01)、越权、授权绕过与权限边界问题。适用于防御性安全审计和经授权的红队/CTF 场景;未经明确授权不得对生产系统构造攻击载荷。

主要能力与流程:

  1. 绘制 AI 攻击面:搜索 openai、anthropic、langchain 等调用及 AI 搜索、生成、聊天、MCP 服务器等特性;梳理系统提示、用户输入、外部数据、可执行动作、输出下游用途与权限上下文。
  2. 审计提示构造:查未净化插值、缺失边界分隔符、系统提示中泄露密钥或内部 URL。
  3. 审计输出处理:LLM 输出被渲染为 HTML、传入 eval/exec、拼接 SQL 或再传给另一 LLM 的风险。
  4. 审计工具调用与智能体:工具清单与参数校验、破坏性操作门控、人类确认、循环上限、记忆投毒、多智能体委托、自我修改、MCP 安全与代码沙箱。
  5. 检查提示泄露:测试系统提示能否被套取及是否有输出过滤。
  6. 审计权限边界:混淆代理、服务账号越权、多租户 RAG/查询隔离、跨权限注入(低权限用户在共享数据中投毒,高权限 AI 会话读取)。
  7. 评估防御层并输出报告,包含集成映射、发现(严重级别、文件行号、分类、攻击场景、脆弱代码、修复)、防御评估与优先级修复顺序。

输出格式为提示注入审计报告模板。可参考 OWASP LLM Top 10、NIST AI RMF、MITRE ATLAS、MCP 规范等。限制:仅审计用户提供或指向的代码,对每个发现给出防御修复;具体价格、平台与更多使用细节暂未提供。