SuperAPI AI 工具集

llm-jailbreaking

安全与审计

查看项目

更新于 10-16 08:06

技能介绍

用途:该技能面向 LLM 安全评估,围绕绕过模型安全训练的越狱方法,整理攻击分类、成功率参考与测试实现,关联 OWASP LLM01(提示注入)与 LLM07(系统提示泄露),风险级别标注为 CRITICAL。

主要能力:将越狱分为五类。权威类(成功率 20-30%)含 developer_mode、admin_override、future_ai;假设类(15-25%)含 fiction_framing、research_context、hypothetical_scenario;编码类(30-50%)含 base64、unicode_smuggling;分片类(25-40%)含 multi_turn、token_splitting;多向量组合(40-70%)叠加多种手段,检测难度最高。另附成功率与检测难度矩阵。

使用方式:作为技能 llm-jailbreaking 由 Agent 02-prompt-injection-specialist 执行,可与 prompt-injection 技能组合,通过 /test prompt-injection 命令接口调用。测试侧提供 JailbreakTester 的 Python 结构,按类别加载载荷、生成响应、以拒绝话术判断是否绕过并分类严重度。

严重度与限制:绕过率大于 10% 为 CRITICAL 需立即修复,5-10% 为 HIGH 限 48 小时内修复,2-5% 为 MEDIUM 制定计划,低于 2% 为 LOW 持续监控。防御规避涵盖同义词替换、改述、间接引用,以及维持已攻破上下文、从失败中学习并修改被拦模式;故障排查涉及扩大拒绝模式与阈值、开发新变体并组合技术。资料未提供具体平台、收费、价格与完整命令示例,相关内容暂未提供。