SuperAPI AI 工具集
合作ENAI 行业资讯收藏
全部工具AI开发平台LLM-security-and-privacy

LLM-security-and-privacy

LLM-security-and-privacy 是一个在 GitHub 上维护的开源资料库，以精选列表的形式汇集与大语言模型（LLM）安全与隐私相关的论文、工具、框架和资讯。该仓库从安全与隐私两个角度梳理 LLM 面临的威胁与漏洞，核心内容包括论文清单、威胁分类概览图、参考框架与分类法，以及相关工具和文章。仓库提供 paper-summaries 文件夹，用于存放每篇论文的摘要、要点和补充细节；main.bib 文件收录了列表中所列论文的最新引用信息。整体定位偏研究资源整理，适合希望系统了解 LLM 安全与隐私领域文献和威胁分类的研究者与开发者参考。

访问官网

工具介绍

用途

LLM-security-and-privacy 是一个以精选列表（curated list）形式组织的开源仓库，聚焦大语言模型（LLM）的安全与隐私问题。它面向希望从安全与隐私双重角度了解 LLM 威胁与漏洞的读者，汇集相关论文、工具、框架和资讯，便于集中查阅与跟踪。

主要能力

仓库整理的内容包括：

  • 论文清单：覆盖 LLM 威胁与漏洞相关的研究，并配有概览配图，展示针对深度学习模型及大语言模型的安全与隐私威胁分类法。
  • 论文摘要：在 paper-summaries 文件夹中提供每篇论文的摘要、关键要点和补充细节。
  • 引用信息：main.bib 文件包含列表中所列论文的最新引用。
  • 框架与分类法：列出 LLM 安全领域的参考框架与分类体系，例如 OWASP Top 10 for Large Language Model Applications、MITRE ATLAS、NIST AI 100-2 E2023 等。
  • 工具与资讯：列出相关工具（如 Arsenal - CALDERA Plugin、Vigil - Prompt injection detection）以及新闻文章、博客与演讲。

使用方式

使用者可通过 GitHub 仓库页面浏览目录（Table of Contents）导航到论文、框架与分类法、工具、新闻文章等部分。如需阅读单篇论文的总结，可进入 paper-summaries 文件夹；如需引用文献，可参考 main.bib。仓库同时提供 CONTRIBUTING.md 说明贡献指南，并列出了当前贡献者。

适用场景

适合 LLM 安全与隐私方向的研究人员、安全工程师和开发者作为文献索引与威胁分类参考；也可用于了解 prompt 注入检测等相关工具与行业框架。

限制

仓库本身是资料列表与摘要集合，并未提供模型训练、部署或防护实现；具体功能、收费、价格、平台支持等信息暂未提供。

同类工具

查看分类