用途:实现安全护栏与质量控制,适用于为智能体配置输入/输出防护、编写伦理护栏模板,以及审计 agent 或提示词是否缺少安全控制。
主要能力:提供四层安全架构——第1层输入(轻量 LLM 无害性筛查、越狱正则匹配、PII 检测与脱敏)、第2层系统(系统提示词中的伦理护栏、明确能力限制、拒答指令)、第3层输出(格式校验、幻觉检测、合规检查)、第4层监控(全交互日志、可疑模式告警、按用户限速)。另含可复用伦理护栏模板与安全清单。
安全清单:每个 agent 检查输入护栏、输出护栏、系统提示词伦理护栏、工具最小权限、日志开启、限速配置;每个提示词检查显式 Forbidden 段落、能力限制、错误处理、无硬编码敏感数据。
关键规则:无护栏不部署;非必要不开放全部工具;不忽略安全日志;不允许用户可改系统提示词;不在提示词中存敏感数据。
限制:资料未提供具体安装命令、价格、平台或效果数据;分类与适用边界需结合实际自评。