用途:在 LLM 应用中缓解直接与间接提示注入,适用于构建或加固 LLM 应用、设计摄入不可信文档的 RAG 管线、实现带工具调用的智能体工作流、响应已报告的注入漏洞,以及对 AI 集成产品做安全审查。需已具备 Python 3.10+(re、hashlib、json 标准库)、应用源码或配置、对提示架构的理解,以及含代表性输入与文档的测试环境。
主要能力:一是攻击面梳理,包括用户输入覆盖系统指令、检索上下文中的不可信文档、工具输出夹带恶意指令、共享上下文窗口跨租户泄漏、渲染输出中的 Markdown/HTML 注入以及多轮渐进式攻击。二是纵深防御模式:指令层级(system > developer > user > tool output)、上下文隔离、按任务与租户的工具白名单、输出策略校验(schema、密钥脱敏、拦截不安全动作)以及高影响操作需人工审批。三是提供输入消毒函数 detect_injection、sanitize_input、sanitize_retrieved_context、validate_tool_call,用正则匹配常见注入模式并给出风险分,剥离空字节、控制字符与零宽字符,为检索文档加边界标记,按显式白名单校验工具调用参数。四是金丝雀令牌系统 CanaryTokenManager,可注入系统提示与文档并检查输出是否泄漏。五是输出校验,识别 API key、AWS 密钥、GitHub 令牌等并脱敏。六是提供多层防御配置示例、红队测试用例、安全指标与 Prometheus 告警查询。
使用方式:按资料中的函数与配置示例接入应用,例如用 INJECTION_PATTERNS 检测、用 sanitize_input 消毒输入、用 validate_tool_call 在工具执行前校验、用 inject_into_system_prompt 与 check_output 追踪泄漏。建议初期仅记录不拦截,调优后再开启阻断。
限制:仅限授权范围使用,破坏性步骤先在非生产环境测试;文档为文档型导入,上游脚本与模板未随附;官方文本中未提供具体集成步骤、支持模型列表或性能数据,暂未提供。