用途:为 Claude API 集成实现应用层护栏,包括输入校验、输出过滤、主题限制与成本治理,作为 Claude 内置安全机制(Anthropic 使用政策)的补充。
主要能力:输入护栏在调用前检查长度(如超过 50K 字符拒绝)、空输入与 PII(SSN、信用卡号)并直接拦截;系统提示护栏用防御性模板限定回答范围、禁止泄露提示词、限制字数;输出护栏检测 API 密钥、私钥、密码等敏感模式并截断超长响应;成本治理按用户与全局日限额校验并记录花费;模型访问策略按用户层级限制可用模型,越权时降级到最便宜的允许模型。
使用方式:先确立已批准的使用政策、数据分级、模型/工作区白名单、输出目的地、保留期与例外负责人;在沙箱中用合成输入、空操作工具注册表和脱敏测试验证;API 密钥放入密钥管理器并最小权限。调用前校验长度、编码、数据分级、用户授权与请求模型,拒绝或隔离不合规输入而非在提示中隐藏策略决定;可信护栏放在 system 参数,用户内容标记为不可信;工具仅按名称与 schema 允许,副作用或外部目的地需显式批准。返回内容与工具调用需校验敏感数据、策略违规、输出大小与目的地范围。按用户与全局预算原子化执行,设置 max_tokens 与速率限制,输出允许/拦截/转换的聚合决策回执。
适用场景:面向客户的 Claude 应用、多租户 API 服务、需要成本与模型访问控制的集成。
限制:校验器不确定或扫描失败时须失败关闭;预算或模型策略违规返回稳定拒绝并只记录规则 ID;输出过滤拦截时保留请求 ID 与脱敏原因后按保留政策丢弃;护栏配置无法加载或无版本时停止流量并恢复上一已知良好版本。具体价格、平台与效果资料暂未提供。