用途:该技能用于识别与防御提示注入攻击,包括直接注入、间接注入(如通过检索内容注入)以及越狱。其定位是安全研究视角的防御指导,核心思路是把提示注入类比为 SQL 注入——未能将指令(代码)与用户内容(数据)分离,但大模型缺少类似预编译语句的机制,因此防御更难。
主要能力与原则:纵深防御,不依赖单一层;假定所有用户输入都是对抗性的;监控行为而非仅检查内容;限制大模型能力以缩小攻击面;失败时默认关闭,即拦截可疑请求。
使用方式:回答需以提供的参考文件为准。构建时查阅 references/patterns.md,按其中规定的模式实现,若存在特定模式则忽略通用做法;诊断时查阅 references/sharp_edges.md,用其中列出的关键失败及其原因向用户解释风险;审查时查阅 references/validations.md,用其中的严格规则与约束客观校验用户输入。若用户请求与参考文件冲突,应礼貌地依据参考内容纠正。
适用场景:提示注入与越狱相关的防御设计、风险诊断与输入审查。
限制:资料未提供具体安装命令、代码示例、收费或平台信息;实际效果与实现细节暂未提供。