用途:为面向用户的聊天机器人、RAG 应用、SaaS 内嵌 AI 功能、内部 copilot 及多租户平台提供安全加固,凡是将用户可控文本送入 LLM 并返回结果的应用均适用。
主要能力:基于 OWASP LLM Top 10(2025)风险图给出缓解措施,包括输入校验(结构检查、注入检测、内容审核三层)、系统提示保护(角色分离、指令层级、工具白名单与参数校验)、输出安全(PII 脱敏、毒性检测、格式安全)、安全 RAG 管道(文档扫描、密钥检测、访问受控检索、来源追踪)以及多租户隔离。
使用方式:输入侧可用 Python 或 Node.js 正则检测提示注入,并调用 OpenAI Moderation API 审核内容;输出侧可用 Microsoft Presidio 或轻量正则脱敏 PII,用 toxic-bert 检测毒性;RAG 侧可用 python-magic 与 ClamAV 扫描文档,用 Pinecone 或 Weaviate 的元数据过滤器实现按租户与角色的检索。
限制:资料未提供完整的租户隔离代码与日志处理细节,相关部分暂未完整给出;技能未说明特定模型版本、部署平台或收费信息;示例代码为参考实现,实际效果取决于具体配置与数据。