prompt-guard 是面向 AI 智能体(Clawdbot)的提示注入防御与操作安全系统,当前版本 v2.5.1。用途是检测并拦截直接与间接的注入攻击,同时约束智能体不得输出密钥等敏感信息。
主要能力:v2.5.0 起提供 349 条攻击模式;覆盖指令覆盖、角色操纵、系统冒充、越狱、场景化越狱、多轮操纵、渐进式建立信任、上下文劫持、URL/文件/图片间接注入、Base64/编码与 Unicode 同形字符绕过、Token 走私、提示提取、安全绕过、紧迫感与情绪操纵、权威冒充、侦察尝试、系统文件读取等。v2.5.1 新增系统提示模仿检测,可识别 Anthropic 内部标签、LLaMA/GPT 内部 token、GODMODE/DAN/JAILBREAK 等关键词及 leetspeak 变体。支持英、韩、日、中四种语言的注入模式检测。安全等级分为 SAFE、LOW、MEDIUM、HIGH、CRITICAL,默认动作依次为允许、仅记录、警告+记录、阻断+记录、阻断并通知所有者。群聊中仅所有者可执行 exec、write/edit、gateway、message、browser 及破坏性或外泄操作。
密钥保护方面:禁止输出 API 密钥、令牌、密码、环境变量中的敏感值、OAuth 令牌、私钥、OTP/2FA 码、会话 cookie;凭据一旦暴露需立即轮换,例如 Telegram bot token 通过 @BotFather 的 /revoke 撤销。配置文件方面建议 ~/.clawdbot/ 权限 700、clawdbot.json 权限 600,且不纳入 iCloud/Dropbox/Git 同步。
使用方式:Python 调用 from scripts.detect import PromptGuard,创建 PromptGuard(config_path="config.yaml") 实例,调用 guard.analyze("user message", context={"user_id": "123", "is_group": True}),依据 result.action 判断是否返回拦截提示。命令行可运行 python3 scripts/detect.py "message",支持 --json、--sensitivity 参数;analyze_log.py 用于日志分析(--summary、--user、--since);audit.py 用于系统安全审计(--quick、--fix)。config.yaml 可配置 sensitivity、owner_ids、各级别动作、secret_protection、rate_limit 与 logging 等。
适用场景:群聊与私聊的注入防御、智能体运行环境加固、安全日志审查。限制方面:资料强调安全性与检测覆盖,未说明与其他平台的兼容性、性能开销或部署成本;对于训练数据外的新型攻击是否可检测暂未提供说明。