用途:为 LLM 应用构建多层安全防护,在输入与输出两侧进行过滤、分类与脱敏。技能资料包含可直接参考的 Python 代码片段。
主要能力:一是输入过滤,阻断恶意提示;二是输出过滤,脱敏敏感数据;三是基于策略的话题约束与拒答;四是 PII 检测与掩码(基于 presidio_analyzer、presidio_anonymizer,覆盖 EMAIL_ADDRESS、PHONE_NUMBER、CREDIT_CARD、SSN 等);五是提示注入检测,用正则匹配 ignore previous instructions、disregard prior、you are now、new instructions、system:、override 等模式,命中后返回固定拒答语;六是话题分类与策略检查,定义 allowed_topics、disallowed_topics 与 requires_disclaimer;七是安全拒绝模板,按医疗、法律、超范围等场景返回对应话术;八是输出校验,检查 PII、违禁短语(password、api key、secret)与毒性分数(阈值 0.7)。
使用方式:将各函数按顺序组合为完整流水线 apply_guardrails,依次执行输入校验、策略检查、模型生成、输出校验;输出不安全时返回脱敏后的内容并附带警告。示例中涉及 llm()、toxicity_classifier() 等未给出实现的函数,需自行提供。
适用场景:面向用户的问答与客服机器人、需要防注入与合规拒答的 LLM 产品。
限制:示例文本为英文,语言参数固定 language='en';正则模式为通用样例,需按实际更新;具体性能、价格、依赖版本与平台信息暂未提供。