用途:为 AI 产品设计内容安全策略与伦理边界,包括拒绝规则、升级机制、prompt 注入防御、领域特定安全规则和价值观锚点。不适用于定义工具操作权限(用 tool-specification)、角色定位(用 persona-design)或记忆存储约束(用 memory-system)。
主要能力:按纵深防御原则组织五层防护——输入验证(注入检测、恶意指令识别)、权限分层(规则不可变性,安全规则不被用户指令覆盖)、输出过滤(拒绝级联)、上下文隔离(长对话漂移预防)、级联升级(低层无法处理时升级)。安全哲学分禁止式(列不可做之事,适合教育医疗等高风险场景)、价值式(列要维护的价值,适合开放讨论场景)与混合式。
使用方式:先做威胁建模并按严重程度分级(Critical/High/Medium/Low);再选安全哲学;然后设计多层防护;针对领域编写专门规则;最后设计升级与降级机制,明确拒绝措辞模板与替代建议。
适用场景:设计 AI 内容策略与拒绝规则、敏感领域合规、防御注入或越狱、长对话安全意识弱化、平衡安全与有用。
限制与失败模式:安全规则过度膨胀导致注意力稀释;规则未声明不可变性可被绕过;过度审查连无害请求也拒绝;忽略长对话漂移;拒绝回复泄露规则细节。安全是底线而非功能,不应替代产品功能设计。具体实现细节与代码资料暂未提供。