SuperAPI AI 工具集

agentic-top-10

智能体与模型

查看项目

更新于 10-16 08:10

技能介绍

用途:为智能体AI系统提供结构化安全评审方法,围绕OWASP GenAI安全项目识别的十大威胁类别逐项检查。适用场景包括:LLM智能体可访问工具、API或系统命令;多智能体架构(编排者-工作者、智能体群、层级委派);智能体跨会话持久记忆;智能体持有凭据、密钥或服务账号;存在人在回路审批但可能被绕过;处理敏感数据且智能体可读取或传输;需满足SOC 2、ISO 27001、FedRAMP等含AI风险评估的合规框架。不适用:无工具访问的纯对话界面、无自主动作的纯RAG管道、传统ML模型安全(后者直接用MITRE ATLAS)。

评审前需收集:智能体架构图、工具/函数定义、权限模型、记忆/状态持久化配置、人工审批门、多智能体通信、错误处理与重试逻辑、认证与身份、限流与配额、数据流图;缺失项在报告中记为差距。

十大威胁类别:AG01过度代理与权限(权限蔓延、通配IAM、缺少按会话工具作用域);AG02工具误用与滥用(自由字符串输入、无输出校验、无调用序列约束、沙箱缺失);AG03权限提升(运行时可改系统提示/工具列表、无跨智能体认证的委派、可写自身配置/密钥库);AG04记忆投毒(可读写的向量库、无完整性保护的会话历史、共享记忆、无内容校验的RAG摄入、无人工审查的长期记忆更新);AG05信任边界违规(智能体间明文消息、共享工具访问、编排者无验证接受子智能体结果、未认证通道);AG06通过工具调用的数据外泄(同时掌握敏感数据源与外部通信工具、URL/邮箱/webhook参数作为外泄通道、Markdown内容外泄)。每类给出代码/架构观察点、真实失败模式与缓解措施,并映射OWASP LLM Top 10 2025、MITRE ATLAS、NIST AI RMF控制项。

使用方式:若通过参数提供目标,则聚焦该目标开展评审;资料未提供具体命令、安装步骤或运行示例,相关细节暂未提供。限制:本文档为安全评审方法论,不构成对任何系统安全性的保证,实际结论需结合目标系统的具体实现与资料核验。