SuperAPI AI 工具集

rag-infrastructure

智能体与模型

查看项目

更新于 10-15 17:24

技能介绍

用途:面向生产环境搭建 RAG 基础设施,实现内部文档知识库问答、大规模文档语义检索,并通过检索上下文降低 LLM 幻觉。

主要能力:文档摄取与分块(递归字符切分、Markdown 标题切分);嵌入生成(本地 sentence-transformers 或 API 模型);向量存储(Qdrant、Weaviate、Pinecone、pgvector);混合检索(稠密向量 + BM25 稀疏向量,RRF 融合);重排序(Cohere 或本地 CrossEncoder);RAG 查询管线(检索→重排→生成);Docker Compose 完整栈(Qdrant、Redis、摄取 worker、RAG API)。

使用方式:需 Python 3.10+、向量数据库、嵌入模型、LLM 端点及 Docker。典型流程为文档经 Chunker→Embedder→Vector Store,查询经 Embedder→检索→Reranker→LLM 输出答案。示例使用 QdrantClient、SentenceTransformer、SparseTextEmbedding、cohere.Client 等,命令与代码保持原样。

适用场景:知识库问答、语义搜索、多租户 RAG、自托管 LLM 检索增强。

限制:资料未提供具体收费、价格与效果数据;部分性能提升数值(如重排提升 20–30%)为原文表述,未提供独立验证。需自行准备向量库、嵌入模型与 LLM 端点。