SuperAPI AI 工具集

rag architecture skill

智能体与模型

查看项目

更新于 10-15 21:40

技能介绍

用途:该技能面向需要让大语言模型基于自有数据回答问题的场景,核心原理是 RAG = 检索 + 生成,即在查询时检索相关上下文并加入提示词,从而减少幻觉、支持私有或最新数据。

主要能力:文档覆盖完整 RAG 流程,包括索引管线(加载、清洗解析、分块、嵌入、存入向量库)与查询管线(查询嵌入、Top-K 检索、增强、格式化、生成、带依据回答)。分块策略涵盖固定大小、句子、段落、语义、递归和整文档,并给出块大小权衡。嵌入模型对比包含 text-embedding-3-small/large、ada-002、Cohere embed-v3、BGE-large、E5-large 的维度、速度、质量与成本。向量数据库选项包括 Pinecone、Weaviate、Qdrant、Chroma、pgvector、Azure AI Search、FAISS,并列出 Flat、IVF、HNSW、PQ 索引类型。检索策略包含基础 Top-K、混合搜索(向量 + BM25,RRF 融合)、重排序(交叉编码器两阶段)、查询转换(HyDE、多查询)。提示增强给出基础与结构化 RAG 提示模板及引用处理。高级模式包括父文档检索、自查询检索和智能体 RAG。评估部分列出 Recall@K、Precision@K、MRR、NDCG 等检索指标,以及忠实度、相关性、完整性、幻觉率等生成指标,并提及 ragas 库。生产考虑涵盖缓存、监控与成本优化,另附常见陷阱表。

使用方式:文档以概念说明、对比表格和 Python 代码片段呈现,示例使用 langchain、numpy、ragas 等库,如 RecursiveCharacterTextSplitter、CrossEncoder、SelfQueryRetriever、Agent 等。

适用场景:构建基于私有文档、代码库或知识库的问答与检索系统。

限制:资料未提供安装命令、具体版本要求、收费信息或平台支持细节,部分内容为通用最佳实践,实际效果需结合具体数据与评估验证。