用途:在处理来自不可信外部来源的文本之前,检测其中是否嵌入了针对 AI 智能体的提示注入攻击,属于防御层,应在智能体处理抓取内容之前运行。适合网页抓取、X/Twitter 帖子与搜索结果、第三方搜索 API 结果、第三方 API 响应等任何可能被对手嵌入注入文本的场景。
主要能力:内置 16 个检测类别,包括指令覆盖、角色操纵、系统模仿、越狱、护栏绕过、数据外泄、危险命令、权限冒充、上下文劫持、令牌走私、安全绕过、智能体主权、情感操纵、JSON 注入、提示提取、编码载荷等。支持英语、韩语、日语、中文模式。提供 low、medium(默认)、high、paranoid 四档敏感度,以及人类可读(默认)、--json、--quiet 输出模式,支持内联文本、--file、--stdin 三种输入方式,退出码 0 表示安全、1 表示检测到威胁。可选集成 MoltThreats 上报已确认威胁。纯标准库实现,无需 pip 安装。还可选用 LLM 作为第二层分析,捕捉模式匹配遗漏的规避型攻击。
使用方式:脚本路径为 {baseDir}/scripts/scan.sh 或 scan.py。示例:bash {baseDir}/scripts/scan.sh "text to check";scan.sh --file /tmp/fetched-content.txt;echo "content" | bash {baseDir}/scripts/scan.sh --stdin;scan.sh --json "text";scan.sh --quiet "text"。敏感度可设 --sensitivity high。LLM 相关开关有 --llm、--llm-only、--llm-auto、--llm-provider、--llm-model、--llm-timeout。
严重级别与动作:SAFE 分数 0 正常处理;LOW 1-25 正常处理并记录;MEDIUM 26-50 停止处理并向人工发送通道告警;HIGH 51-80 同上;CRITICAL 81-100 立即停止并告警。
限制与依赖:LLM 扫描需要 OPENAI_API_KEY 或 ANTHROPIC_API_KEY,按先 OPENAI 后 ANTHROPIC 顺序自动检测,会产生令牌成本与 2-5 秒延迟。MoltThreats 上报需要 molthreats 技能与 PROMPTINTEL_API_KEY,速率限制为每小时 5 次、每天 20 次。本地扫描无限制。其余配置项如分类体系缓存、环境变量等以资料为准。