SuperAPI AI 工具集

prompt-injection

智能体与模型

查看项目

更新于 10-16 09:27

技能介绍

该技能用于对集成大语言模型的应用开展结构化安全审查,检测提示注入漏洞,对齐 OWASP LLM01:2025 与 MITRE ATLAS AML.T0051。仅限防御性测试,须获得明确授权后再评估。

用途与流程:

  1. 梳理 LLM 交互面,包括用户输入通道、外部内容源(RAG、邮件、网页、数据库、文件上传、第三方 API)、系统提示构造、工具与插件接口、多轮上下文。
  2. 识别直接注入向量:提示拼接方式、指令边界强弱、多轮注入、参数注入,关注代码中的字符串插值、模板变量、缺少输入校验等。
  3. 识别间接注入向量:RAG 输入、邮件消息集成、网页抓取、数据库记录、文件处理、API 响应,关注内容来源追踪缺失等。
  4. 测试类别:目标劫持、提示泄露、权限提升、数据外泄、越狱。
  5. 防御评估:输入校验与净化、权限分离、人机回环、输出过滤、系统提示金丝雀字符串、指令层级、自适应攻击韧性(静态防御不足,需持续红队评估;智能体场景可用 InjecAgent、AgentDojo 及 fabraix/playground 测试手段)。
  6. 报告发现:按 Critical/High/Medium/Low/Informational 定级,输出交互面映射与结构化报告;机器可读输出需符合 schemas/finding.schema.json。

主要限制:依赖可获得的代码、配置、日志与用户上下文,证据缺失时无法证明控制存在或威胁不存在;发现应视为假设,需结合资产重要性与补偿控制验证;每条发现需文件路径、行号、策略片段、扫描输出、日志、截图或可复现步骤支撑;出现疑似活跃入侵、凭证暴露、受监管数据泄露、高危可exploit漏洞、特权滥用或证据不足时须立即升级。