用途:Secure AI 用于保护与 LLM 交互的应用集成层,覆盖提示注入防御、模型输出验证、智能体零信任、AI 服务器动作加固、MCP 工具安全、供应链完整性与 AI 访问模式审计。适用于需要为 LLM 功能做纵深防御、在输出下游使用前做校验、为自主智能体实现零信任、加固 AI 端点、管理 AI 供应链风险等场景;不适合不含 AI 组件的通用 Web 安全、纯前端安全或非 AI 接口加固。
主要能力与用法要点:结构隔离要求系统与用户消息角色分离,不把指令与用户数据混在同一字符串;用标记界定不可信数据边界,必要时用快速分类器做守护模型预扫描;把 LLM 输出视为不可信输入,做上下文相关编码、参数化查询和 CSP;智能体按子任务授予最小权限能力范围,破坏性、财务或改数据动作需人工签核;AI 逻辑仅放服务端,密钥不进入客户端包;面向 AI 的服务器动作使用 Zod 校验,绝不把原始用户输入直接传给 AI 服务;用 Redis 做按用户或 IP 的令牌预算限流,防御拒绝钱包攻击;对输出流做敏感字符串清洗,移除内部 ID 与密钥;MCP 服务器视为不可信,工具白名单并校验输入输出、强制最小权限;校验模型来源与校验和,维护 AI-BOM;用环境变量管理密钥并在 CI 中用 gitleaks 扫描泄露。
框架对齐:覆盖 OWASP LLM Top 10 2025 全部十项风险,并参考 NIST AI RMF 1.0、NISTIR 8596、OWASP MCP 安全备忘单,以及 CycloneDX 1.6 / SPDX 3.0 等 AI-BOM 标准。
限制:资料未提供具体安装命令、版本号、收费方式或代码示例;实际落地方式与效果暂未提供。