SuperAPI AI 工具集

ai-runtime-security-sandbox

安全与审计

查看项目

更新于 10-16 02:30

技能介绍

用途:ai-runtime-security-sandbox 是一个完全本地运行的 RAG 聊天机器人安全沙箱,用于演示和测试检索增强生成系统的安全漏洞,覆盖 OWASP LLM Top 10 与 OWASP Agentic Top 10 中的多类风险。

主要能力:内置 7 个实时攻击场景,包括通过知识库投毒文档实现的间接提示注入、检索导致的数据泄露、工具滥用(过度代理)、针对输入护栏的直接越狱、通过 Markdown 的输出外泄、MCP 工具投毒(代理工具供应链攻击)等。每个场景可在安全模式关闭(脆弱基线)与开启(9 层防御栈)下运行。安全模式包含输入护栏、检索访问控制、上下文净化、指令层级、输出 DLP、输出链接护栏、工具授权等。支持离线 mock 提供方,也支持 OpenAI、Claude、Gemini 及自定义 OpenAI 兼容端点。

使用方式:克隆仓库后创建虚拟环境并安装依赖,复制 .env.example 为 .env 配置(mock 无需密钥),运行 python run.py,服务默认在 http://127.0.0.1:8000。通过 /api/chat 提交消息并指定 provider 与 secure_mode,/api/documents/reload 重载知识库,/api/system 查看系统信息。文档位于 data/documents/*.md,使用 frontmatter 标注 classification 与 scenario。

适用场景:安全培训与演示、RAG 系统攻防演练、CI/CD 安全测试集成、自定义护栏与工具授权逻辑开发。

限制:检索基于 TF-IDF,针对内置场景提示调优,自定义查询可能返回不相关文档;mock 提供方为确定性响应,真实提供方行为更具变异性;资料未提供收费、价格或平台支持等更多信息。