SuperAPI AI 工具集

defense-implementation

安全与审计

查看项目

更新于 10-16 08:07

技能介绍

用途:面向生产 LLM 部署,实施可落地的防御与缓解措施,对 LLM 漏洞做输入校验、输出过滤和架构级防护。属于 NIST RMF 的 Manage 功能,绑定 05-defense-strategy-developer。

主要能力:采用三层防御。第一层输入防御(延迟预算 50-100ms):输入校验与净化、长度与格式约束、注入模式检测、按用户/会话限流、编码规范化。第二层处理防御(0ms,随模型调用):加固系统提示词、指令边界强制、上下文隔离、安全机制增强。第三层输出防御(20-50ms):有害内容过滤、敏感数据脱敏、系统提示词泄漏检测、响应格式校验。并针对 LLM01(提示注入)、LLM02(敏感信息泄露)、LLM05(输出处理不当)、LLM06(过度自主性)、LLM07(系统提示词泄漏)给出分层缓解。

用法:材料给出 Python 示例:InputDefenseLayer 用 validate 做长度、空值、NFKC 规范化与注入正则检测;HARDENED_SYSTEM_PROMPT 给出不可变安全准则与指令优先级;InstructionBoundaryEnforcer 用标记包裹用户输入;OutputDefenseLayer 用 filter 做系统提示词泄漏检测与 API 密钥、邮箱、电话、SSN、信用卡等正则脱敏;附 pytest 单元测试模板与故障排查(高误报、被绕过、延迟过高)。

适用场景:需要为生产 LLM 应用构建纵深防御、过滤输入输出与加固提示词的安全工程场景。

限制:材料给出目标指标(拦截率>95%、误报<2%、延迟<100ms、未知攻击抗绕过>80%)及示例实际值,但未说明其测算条件与保证;效果数据未经核实。安装命令、收费与平台信息暂未提供。