SuperAPI AI 工具集

payloads-prompt-injection

安全与审计

查看项目

更新于 11-10 16:20

技能介绍

本技能是面向大语言模型(LLM)安全的提示注入载荷参考资料,内容源自 PayloadsAllTheThings 的 Prompt Injection 部分,并以 Skill ID payloads-prompt-injection 集成到 REA_Skill 框架。其定位是:在获得书面授权的渗透测试、漏洞赏金研究、安全审计和 CTF 比赛中,提供可参考的注入载荷、测试策略与验证流程。

用途与范围 资料将提示注入定义为“把特定提示或线索插入输入数据,以引导机器学习模型输出”的技术,并区分两类安全风险:直接提示注入(恶意用户直接操纵提示,使 AI 忽略原有指令并执行非预期命令)和间接提示注入(载荷不直接来自对话,而嵌入 AI 处理的外部数据源,如文档元数据、网页代码注释与 HTML 标签、API 响应等)。

工作流程 资料给出四步流程:

  1. 侦察与识别:识别目标技术栈与注入点,枚举端点、参数和输入向量,对照载荷分类确定适用类别。
  2. 载荷选择:浏览 PATT 对应攻击类载荷库,选择与目标环境编码方式匹配的载荷,考虑 WAF 绕过变体与混淆技术。
  3. 利用(仅限授权):按被动→主动→升级的顺序测试,记录每个载荷及响应,保留 PoC 证据(截图、HTTP 日志、curl 输出)。
  4. 验证与报告:用干净的最小 PoC 确认漏洞,尽可能映射 CVE/CWE,并给出修复建议与代码修复方案。

主要能力与载荷类别

  • 直接注入基础测试:强制输出(如让模型直接回复“Hello”)、提示泄露(要求返回完整提示文本)、强制 XSS/SQLi 输出、SSRF(请求内部地址)、数据泄露(索取信用卡详情)以及跨插件请求伪造(诱导读取最新邮件、URL 编码后外带到外部服务器)。
  • 聊天格式注入:给出 OpenAI 的 {"role": "system", "content": "INJECT_HERE"} 与 Mixtral 的 <<SYS>>…<</SYS>>[INST]…[/INST] 格式示例。
  • 测试策略表:包括基础用法与哈希计算测试、无越狱/有越狱的 RCE 测试、网络 curl 测试、下载后门与反弹 shell 测试、指令覆盖、角色切换、输出操纵、上下文注入、数据提取、拒绝服务(无限循环)、输入反射、思维链利用、提示夹心、DAN 式提示、角色注入、递归提示、不安全函数调用、Token 泛滥、复杂嵌套输入、Unicode 混淆、Base64 编码载荷、同形字注入、逻辑混淆、身份注入、输出泄露、经由 API 包装器注入、HTML 实体/Unicode 转义绕过、反向提示注入、数据投毒与 CoT 欺骗等。
  • 间接注入介质示例:文档 EXIF 元数据(如 Software 字段写入指令)、网页代码注释与 HTML 标签、JSON API 响应中的 message 字段。

工具与靶场 资料列出可被针对的模型(ChatGPT、Gemini、Le Chat、Claude),参考工具包括 TakSec/Prompt-Injection-Everywhere、NVIDIA/garak、praetorian-inc/julius、praetorian-inc/augustus、promptfoo/promptfoo 等;挑战靶场包括 Gandalf(Lakera)、GPT Prompt Attack、GPT Game、Prompt Airlines(Wiz)。另提供大量参考文献,涉及提示工程、插件数据外带、记忆注入、LLM 集成应用 RCE、AI 攻击面地图等。

REA MCP 集成 资料提到可通过 REA 工具(analyze_function、procedure_pseudo_code、observe_native_calls)识别注入 sink,再应用本技能载荷,但未提供具体安装命令或调用示例。

限制与合规 资料强调仅限授权使用:所有载荷只用于安全研究、有书面许可的渗透测试、CTF 与防御性学习;未经授权对非自有系统测试属违法行为。此外,资料为参考型载荷库与流程说明,是否封装为可执行工具、支持哪些平台和运行方式暂未提供;也未见收费、价格或效果数据。