SuperAPI AI 工具集

OWASP LLM Security

安全与审计

查看项目

更新于 10-15 22:11

技能介绍

用途:该技能用于在 LLM 应用中落实与 OWASP LLM Top 10 2025 对齐的安全控制,核心理念是“LLM 引入独特安全风险,需要专门控制”。

主要能力:覆盖提示注入防护、不安全输出处理、训练数据投毒、模型拒绝服务、供应链漏洞、敏感信息泄露、不安全插件设计、过度代理、过度依赖与模型窃取等主题。给出 MUST 要求与 MUST NOT 禁止项,例如输入清洗、参数化提示模板、上下文隔离、输出 HTML 编码、CSP 头、速率限制(如每用户每小时 100 次请求)、令牌与成本上限、30 秒超时、SBOM、最小权限、人工审批、审计日志、输出脱敏与模型水印等。

使用方式:资料提供 Python 示例,包括 sanitize_user_input 与 safe_llm_query 的输入校验与输出转义、基于 Flask-Limiter 的速率与成本限制、以及 detect_sensitive_data/redact_sensitive_data 的敏感数据检测与脱敏。示例中出现的函数如 query_llm、log_security_event、html_escape 等为示意调用,需按实际环境实现。

适用场景:LLM 应用开发、安全评审、AI 治理与合规检查。

限制:资料未提供具体安装命令、依赖版本、平台支持范围、收费或价格信息;示例代码为演示性质,未说明可直接运行。版本 1.0,更新日期 2026-02-10,许可 Apache-2.0。