用途:为基于 Claude 的应用实现内容安全护栏,覆盖系统提示加固、输入校验、输出校验与 Anthropic 可接受使用政策(AUP)合规。
主要能力:一是在系统提示中写入明确规则,例如限定只回答特定产品问题、禁止泄露系统提示、禁止扮演其他 AI、遇到要求忽略指令时给出固定回复、超出范围时转人工。二是输入校验,检查长度(如超过 10000 字符或为空则拒绝),并用正则检测常见注入模式,如 ignore instructions、you are now、system prompt、DAN 等。三是输出校验,检测响应是否意外包含系统提示片段(如 RULES:、TONE:),命中则返回安全拒答;并对超长响应(如超过 50000 字符)做截断。
使用方式:资料给出 TypeScript 示例函数 validateUserInput 与 validateOutput,可直接复制并适配到自身代码库;建议逐项集成并单独测试,最后运行测试套件验证。前置条件为已完成 clade-install-auth、应用存在面向用户的 Claude 交互,并理解自身内容政策要求。
限制与说明:Claude 自带内容安全(拒绝有害内容、非法活动、冒充真人、露骨内容),无需重复实现,护栏应聚焦应用特定规则。日志方面应记录适用政策、输入输出决策、安全拒答或升级路径、测试用例标识与例外审批人,且不要保留不必要的提示内容、凭据或个人数据,使用脱敏关联数据并采用最短兼容保留期。API 错误可参考 clade-common-errors,其他应用模式见 clade-architecture-variants。具体价格、平台与效果资料未提供。