SuperAPI AI 工具集

llm-ai-security

安全与审计

查看项目

更新于 10-16 05:42

技能介绍

用途:对暴露 LLM 功能的应用或 API(聊天机器人、copilot、摘要器、代码助手、RAG 端点)进行安全测试,覆盖 OWASP AI Security Top 10(ASI01–ASI10)。适用于渗透测试、漏洞赏金、AI 功能上线前评审,以及处理 PII、执行工具调用或渲染 Markdown 的聊天机器人。

主要能力:直接与间接提示注入、系统提示提取、敏感信息泄露、通过函数调用的过度代理、输出处理缺陷(XSS、命令注入)、向量/嵌入弱点、无界消耗(token 耗尽 DoS),以及聊天机器人特有的会话 IDOR、不可见 Unicode 的 ASCII 走私和基于 Markdown 的外泄通道。

使用方式:需 curl、建议 HTTP 代理(如 Burp Suite)、有效账户与书面授权。通过环境变量配置 SECSKILL_TARGET_URL(必填)、SECSKILL_AUTH_TOKEN、SECSKILL_OUTPUT_DIR、SECSKILL_MODEL_HINT。流程为:识别 LLM 端点、测试系统提示提取(ASI07)、直接与间接注入(ASI01)、输出处理(ASI05)、工具调用滥用(ASI06)、会话隔离 IDOR、ASCII 走私、Markdown 外泄(ASI02)、token 耗尽(ASI10),最后按 ASI 分类记录发现与修复建议。

限制:仅限获得明确书面授权的系统;测试可能产生目标方 API 费用,需控制请求量;强护栏或输出过滤可能使直接注入被拒,可尝试间接注入或工具路径;工具未暴露时需检查 JS 包或 API 文档;Markdown 未渲染时跳过相应测试;ASCII 走私可能受传输编码影响,建议用 Python requests 保留原始 Unicode。OWASP 参考:https://owasp.org/www-project-top-10-for-large-language-model-applications/