SuperAPI AI 工具集

ai-data-security

数据与分析

查看项目

更新于 10-16 07:22

技能介绍

用途:面向 LLM/AI 系统的数据安全测试方法论,在需要评估数据泄露风险、训练数据安全或 RAG/向量库数据完整性时使用。攻击面按应用层(System Prompt 泄露、API 信息泄露、PII 窃取)、模型层(训练数据推导、成员推断、模型反演)、部署层(RAG 投毒、向量库越权、缓存泄露)划分。

主要能力与流程:Phase 0 数据资产识别,梳理训练数据、RAG 知识库、API 端点、缓存与日志边界;Phase 1 应用层,含 System Prompt 泄露(详见 prompt-leak skill)、API 端点与配置探测、对话上下文中的 PII 提取与多租户隔离缺陷;Phase 2 模型层,含前缀补全与 Divergence 攻击、Shadow Model 成员推断、白盒梯度优化与黑盒 API 查询的模型反演;Phase 3 数据投毒与篡改,含 RAG 知识库投毒、embedding 操纵、对话语料投毒、级联幻觉;Phase 4 部署层,检测 Milvus/Pinecone/Weaviate 等向量库认证与暴露面、备份日志缓存明文与快照加密情况。

使用方式:按阶段执行并对照检测清单核查,清单包含 System Prompt 可泄露性、API 端点暴露、训练数据片段泄露、多租户上下文隔离、RAG 数据源可投毒性、向量库认证与访问控制、日志缓存加密。深入技术步骤与 payload 见 references/data-attack-techniques.md。与 prompt-leak 的边界:后者专注 System Prompt 泄露 6 类技巧,本 skill 将 Prompt 泄露作为应用层攻击面之一,重点在更广泛的数据安全。

限制:资料未提供具体工具、命令、收费或使用环境要求。