用途:在构建面向用户的 AI 应用、用 LLM 处理不可信输入、实施 AI 安全控制、防止提示操纵攻击或满足安全合规要求时,使用该技能加固应用。
主要能力:识别四类攻击——直接注入(用户试图覆盖系统指令)、间接注入(外部数据源中的恶意内容)、越狱(绕过安全过滤)和提示泄露(提取系统提示或机密指令)。防御策略包括:输入校验(基于黑名单正则、提示分隔符检测、特殊字符比例判断,并提供 sanitize 清洗);提示结构防御(用 <system_instructions> 与 <user_input> 分隔并声明安全规则);输出校验(检测系统提示泄露、API key、密码等敏感模式及格式操纵);金丝雀令牌(注入随机 CANARY 并在输出中检查是否泄露);分层防御(限流、输入校验、注入金丝雀、构建安全提示、调用 LLM、检查金丝雀、输出校验);基于 LLM 的检测(用快速模型返回 isInjection、confidence、reason 的 JSON);监控与告警(记录 input_blocked、canary_leak、output_filtered、repeated_attempts 事件并按阈值告警)。
使用方式:按资料中的类与函数组织代码,例如 InputValidator.validate、buildSecurePrompt、OutputValidator.validate、CanaryDetector.injectCanary/checkOutput、SecureAIGateway.process、detectInjection 与 SecurityMonitor.log。资料未提供安装命令或具体调用入口。
适用场景:面向用户的聊天或代理应用、处理外部网页或文档等不可信数据的 LLM 流程、需要安全审计与告警的 AI 网关。
限制:资料未说明支持的平台、依赖、收费或价格;黑名单与正则可能被绕过,需结合多层防御并持续更新与红队测试。