用途:在生产环境中加固 LLM 与 AI 系统,抵御提示注入、越狱、数据泄漏与供应链威胁。适用场景包括处理敏感用户数据的 LLM 应用、AI 智能体防护、输出过滤与内容审核、模型权重与 API 端点保护,以及满足 SOC2 或 ISO 27001 合规的 AI 系统。
主要能力:提供 AI 专属威胁模型,涵盖提示注入、数据外泄、越狱、模型窃取、训练数据投毒、供应链攻击与非安全输出。提示注入防御用正则匹配可疑模式,并提供 sanitize_user_input 做长度截断、移除空字节与控制字符、命中即报错。可结合 NeMo Guardrails 配置输入/输出流,做越狱、敏感数据与 PII 检查。输出侧用 Presidio 分析并匿名化 PERSON、EMAIL_ADDRESS、PHONE_NUMBER、CREDIT_CARD 等实体,并检测 XSS、SQLi、模板与命令注入特征。API 层提供基于用户 ID 的速率限制与 JWT 校验。模型权重用 SHA-256 比对,并可用 modelscan scan -p "$MODEL_DIR" 扫描。还给出 Kubernetes NetworkPolicy 隔离 LLM API、structlog 审计日志(不记录 prompt/completion 内容)等做法。
限制:仅在授权范围内使用,破坏性步骤先在生产外测试;属于 docs-only 导入,上游脚本与模板未随附;资料未提供具体收费、价格或平台要求。相关技能包括 hashicorp-vault、network-security、linux-hardening、agent-observability、llm-gateway。