SuperAPI AI 工具集

safety-filter-bypass

安全与审计

查看项目

更新于 10-16 03:43

技能介绍

用途:用于对AI系统的安全过滤器与内容审核机制进行授权安全评估,识别防护薄弱点,覆盖OWASP LLM01(提示注入)与LLM05(输出处理不当)。

主要能力:按过滤器类型分析绕过难度、延迟与覆盖范围(关键词拦截、正则、ML分类器、LLM过滤器)。围绕令牌级攻击(标点插入、leet、Unicode同形字替换、零宽字符注入)、语义规避(同义词替换、上下文稀释)、上下文操纵(虚构框架、教育语境)、多模态攻击(图片内文字、文档嵌入)生成测试变体。附带示例类SafetyFilterBypasser,可生成变体并调用filter_api.check测试阻断/绕过,并按绕过率分级(CRITICAL>20%、HIGH 10-20%、MEDIUM 5-10%、LOW<5%)。

使用方式:通过技能safety-filter-bypass,由Agent 02-prompt-injection-specialist执行;与llm-jailbreaking技能及/test prompt-injection命令集成。

适用场景:红队评估、安全评审与防护回归测试。

限制:仅限获得授权的系统测试;需记录活动并负责任披露,禁止恶意使用。针对高误报可调整敏感度并加入允许列表;绕过不生效时需匹配过滤器类型。其他细节暂未提供。