SuperAPI AI 工具集

injection-defense

安全与审计

查看项目

更新于 10-15 23:44

技能介绍

用途:当系统提示需要防御提示注入、越狱攻击、社会工程和内容信任边界突破时调用此 Skill,适用于构建 AI Agent、聊天机器人、文档处理助手等任何接受外部输入的系统提示。不适用于纯内部工具调用、已完全隔离的沙箱环境,也不适用于 UI 布局或响应格式设计。

主要能力:纵深防御,部署入口过滤、执行守卫、输出审计至少三层;规则不可变性,系统指令优先级最高,外部内容不得覆盖;内容信任分级,区分可信(用户直接对话)与不可信(文档正文、批注、邮件、HTML、API 响应),不可信内容不具指令权限;级联防御,各层独立运作;反泄露元规则,禁止复述指令术语、引用系统提示或泄露内部机制;检测到注入时通知用户而非静默忽略。

使用方式:先建立信任分级表,列出所有输入源并标注信任等级与指令权限;再设计多层防御链,每层有独立拦截规则;随后在系统提示中声明规则不可被外部内容修改;实现检测通知机制,定义标准响应模板;最后添加反泄露元规则与凭据占位符替换规则。

适用场景:设计接受外部内容的 AI 助手系统提示、构建具工具调用能力的 Agent、实现用户自定义记忆或偏好系统、部署面向公众的聊天机器人。

限制:不要用于纯内部 API 调用、沙箱隔离的执行环境安全、UI/UX 访问控制或输出格式校验。常见失败模式包括过度依赖关键词过滤、单层防御、静默忽略注入、将系统提示本身视为秘密。具体实现细节与代码示例暂未提供。