SuperAPI AI 工具集

rag-exploitation

智能体与模型

查看项目

更新于 10-16 03:43

技能介绍

用途:对检索增强生成(RAG)系统进行安全测试,检查检索、排序与生成环节的漏洞。技能名 rag-exploitation,归属 Agent 03-adversarial-input-engineer,风险等级 HIGH,对应 OWASP LLM01(提示注入)、LLM08(嵌入弱点)、LLM04(投毒)。攻击面链路为:用户查询→嵌入→向量检索→检索文档→LLM→响应,各环节可分别被嵌入反演、排序操纵、投毒文档与提示注入影响。

主要能力:1)知识库投毒(kb_poisoning),需知识库写权限,影响为持久性错误信息,检测方式为内容校验;流程为识别目标查询、构造恶意文档、优化嵌入以被检索、注入向量库、验证检索。2)检索操纵(retrieval_manipulation),仅需查询权限,方法含针对特定检索的查询构造、相似度分数利用、排序算法滥用,可探测相似度低于阈值的易幻觉查询。3)上下文注入(context_injection),向将被检索的文档注入指令,手段含零宽字符隐藏、语义混入、脚注结构等。4)嵌入攻击(embedding_attack),含对抗嵌入构造、碰撞攻击与嵌入反演,用于绕过基于嵌入的去重。

使用方式:资料提供 Python 类方法示例(KBPoisoningAttack、RetrievalManipulation、ContextInjectionAttack、EmbeddingAttack)及 /test adversarial 命令接口;集成点包括 prompt-injection 技能(上下文注入)与 data-poisoning 技能(知识库投毒)。资料含 RAG 漏洞检查清单:知识库(访问控制、内容校验、现有文档注入)、检索(阈值处理、排序操纵、查询清洗)、生成(上下文注入、提示模板安全、输出校验)。严重度分级:CRITICAL(投毒成功、持久操纵、无内容校验)、HIGH(上下文注入生效、可检索操纵)、MEDIUM(部分攻击成功或部分校验被绕过)、LOW(强校验、攻击被阻断)。

适用场景:授权的 RAG 红队测试与安全评估。

限制:资料未提供安装命令、定价、平台支持范围与具体部署步骤;相关攻击技术仅应在合法授权范围内使用。