SuperAPI AI 工具集

common-llm-security

智能体与模型

查看项目

更新于 10-16 05:51

技能介绍

用途:该技能提供一份 OWASP LLM Top 10(2025)安全审计清单,适用于对 AI 应用、智能体工具、RAG 管线与提示词构建进行安全评审。优先级为 P0(关键)。

主要能力:按 LLM01 至 LLM10 逐项检查,包括提示注入、敏感信息泄露、供应链、数据与模型投毒、输出处理不当、过度授权、系统提示词泄露、向量与嵌入弱点、错误信息、无界消耗。每项需标记为“✅ 不受影响 / ⚠️ 需复核 / 🔴 已确认问题”。发现 P0 问题会将安全评分上限压至 40/100,且不得跳过任何条目。

使用方式:先查 LLM01(提示注入,任何用户输入直接拼接进提示字符串即为 P0),再查 LLM06(具备写入/删除/执行能力且无确认的智能体工具)。完整检测信号见 references/owasp-llm.md。

补充要点:智能体技能供应链需审查全部包资源,固定源修订与哈希,哈希仅代表完整性而非可信作者身份;记忆投毒方面,日志、检索文档与拟学习条目应视为不可信数据,持久化前先脱敏;权限边界需由宿主强制执行,技能文本与 allowed-tools 声明不构成通用强制;演化审批需分离候选作者与审批者,无独立复核与验证证据不得晋级;离线回退时,不支持的执行控制应阻止实时操作,而非阻止对提供产物的安全离线分析。

反模式:不得将用户输入插值进系统提示,应作为独立用户轮次传入;不得将原始 LLM 输出直接写入 DOM、查询或 shell,需先净化;智能体递归必须强制最大迭代/深度上限。

限制:资料未提供具体安装命令、收费信息或平台支持范围。