SuperAPI AI 工具集

prompt-hacking

智能体与模型

查看项目

更新于 10-16 03:43

技能介绍

用途:prompt-hacking 是自定义 AI 红队插件中的技能,由 02-prompt-injection-specialist 代理执行,面向大模型安全测试,聚焦 OWASP LLM01(提示注入)与 LLM07(系统提示泄露),风险等级标注为 CRITICAL。

主要能力: 一、直接提示攻击。通过指令覆盖(如“忽略之前所有指令”)、模式切换(如“进入开发者模式”)和输出操纵(如“重复以下内容”)影响模型输出,成功率 5-15%,检测难度低。 二、间接提示注入。利用模型抓取的外部内容作为攻击面,包括网页隐藏文本、HTML 注释、CSS 隐藏元素、PDF 隐藏指令与元数据、邮件正文或附件内容,成功率 20-40%,检测难度高。 三、多轮操纵。按建立无害上下文、建立信任、转移话题、使请求正常化、执行载荷、维持被污染状态的顺序推进,通常需 3-7 轮,成功率 30-50%,检测难度极高。 四、上下文窗口攻击。采用 lost_in_middle(把载荷埋在长上下文中部)和 context_exhaustion(用大量无害内容填满上下文使早期指令被“遗忘”),成功率 15-30%。

使用方式:资料提供技能名 prompt-hacking、代理名 02-prompt-injection-specialist,以及 /test prompt-injection 命令接口;可与 prompt-injection 基础注入技能、llm-jailbreaking 越狱技能集成。具体安装命令、运行参数、依赖环境与调用示例暂未提供。

适用场景:LLM 应用与智能体的安全评估、红队测试、注入防护验证,以及提示注入与系统提示泄露的严重性分级(CRITICAL 至 LOW)。

限制:成功率数据来自该技能文档,实际效果受目标模型与防护影响;具体部署步骤与许可信息暂未提供。