用途:构建检索增强生成(RAG)系统,用外部知识源扩展 AI 能力,让回答基于检索到的资料,减少幻觉,适用于专有文档问答、事实型聊天机器人、语义搜索、文档助手、带引用的研究工具和知识管理系统。
主要能力: 向量数据库:Pinecone(托管、可扩展)、Weaviate(开源、混合搜索)、Milvus(高性能、本地部署)、Chroma(轻量、便于本地开发)、Qdrant(快速、高级过滤)、FAISS(Meta 库、完全可控)。 嵌入模型:text-embedding-ada-002(1536 维)、all-MiniLM-L6-v2(384 维、轻量)、e5-large-v2(多语言)、bge-large-en-v1.5。 检索策略:稠密检索(语义相似)、稀疏检索(BM25、TF-IDF)、混合搜索、多查询、上下文压缩。
使用方式:加载文档并切分为片段(示例参数 chunk 500、overlap 100),用嵌入模型生成向量并写入向量库,再通过内容检索器接入 AI 服务。示例:EmbeddingStoreIngestor.ingest(documents, embeddingStore);AiServices.builder(Assistant.class).chatModel(chatModel).chatMemory(MessageWindowChatMemory.withMaxMessages(10)).contentRetriever(EmbeddingStoreContentRetriever.from(embeddingStore)).build()。支持元数据过滤(如 metadataKey("category").isEqualTo("technical"))、多源检索合并与重排序。
适用场景:文档问答、元数据过滤检索、多知识源合并检索。
限制与注意事项:需遵守模型上下文窗口与 API 速率限制,注意数据隐私合规、内存与算力资源、系统维护与安全(向量库访问控制、输入校验、审计)。资料未提供具体收费与价格信息。评估可用 Precision@k、Recall@k、MRR、nDCG 及忠实度、答案相关性等指标。