SuperAPI AI 工具集

aegis-llm-ai

安全与审计

查看项目

更新于 10-15 17:19

技能介绍

用途:作为应用源代码中 LLM 集成的审计 playbook,覆盖 Python(openai、anthropic、langchain、llama-index)、JavaScript/TypeScript(openai npm、@ai-sdk/*、langchain.js)以及直连 provider HTTP 端点的调用路径;同时覆盖提示模板、工具/函数调用 schema、RAG 管线、会话历史持久化和模型配置。仅在数据集或训练任务位于仓库内时审查微调管线。不覆盖模型内部权重、provider 基础设施安全和非 LLM 聊天系统。

主要能力:围绕 OWASP LLM 应用类别名称组织九项检查——直接提示注入、间接提示注入、不安全输出处理、过度代理/工具滥用、敏感信息泄露、RAG 特有风险、模型 DoS/成本滥用、模型与插件供应链、护栏形式化识别。每项发现要求记录调用点、污点路径(source→sink)、插值字段信任判定、工具执行主体、可利用性推理与具体修复。

必要用法:假设仅有代码读取权限;先建立模型调用清单,再回溯 messages 数组组装;对完成文本和工具参数做前向污点追踪至危险 sink(eval/exec、shell、SQL、文件系统、HTML 渲染、SSRF 等);枚举工具 schema 的执行主体与确认门;检查 RAG 检索查询中是否内置租户/ACL 谓词;核对 max_tokens、max_iterations、maxSteps 等上限是否存在;审查模型 ID 是否固定快照及第三方插件/MCP 工具定义。动态 payload 仅用于对自有或授权产品验证。

适用场景:审计第一代 LLM 应用、RAG 系统、agent 工具链与 provider 集成代码。

限制:本模块为静态代码审计方法,需配合动态测试;不进行法律判断,数据处理协议问题交由法务;完整正则签名与模板细节以仓库 GUIDE.md 及模板为准。