用途:为应用实现 RAG(检索增强生成),让模型基于检索到的片段作答并给出引用,而不是把 LLM 当作事实来源。适用于搭建知识库问答、文档/FAQ/政策/价格等事实型场景。
主要能力:覆盖摄取、分块、嵌入、检索、重排与语料修正的完整链路;支持混合检索(向量 + BM25/Elasticsearch)、查询改写、过滤(租户、语言、doc_type、有效期)、重排与引用生成;区分三层记忆——工作记忆(请求上下文)、情景记忆(偏好与决策,带 TTL、user_id、同意)、语义记忆(语料 + 向量 + 元数据)。
使用方式:管线为 源 → 分块(重叠、稳定 ID)→ 嵌入 → upsert;查询 → 改写 → 检索(含过滤)→ 重排 → 生成 + 引用。按结构分块而非盲目按 token;ID 可用 hash(source_id + chunk_index + content_version);摄取与查询须用同一嵌入模型;元数据至少含 source_id、source_uri、title、updated_at、acl、locale。事实变更时编辑规范源,再 upsert 该文档的分块与向量、删除同 source_id 的孤儿向量、更新版本并失效检索缓存;更换嵌入模型或分词器须全量重建索引。模型客户端可用 claude-api / chatgpt-api / gemini-api / ollama-api;存储沿用项目现有方案(pgvector、Chroma、Pinecone、OpenSearch 等),Postgres 用 pgvector。
限制与规则:密钥与第三方 PII 不得进入语料;按文档幂等 upsert、分块级联删除;生成上下文只用检索片段加问题;租户隔离须在查询中强制生效;检索为空或分数过低应回答“不知道”或请求澄清,不得编造;事实型领域(法律、价格、医疗相关)须带引用;不要用微调让模型“记住事实”,那属于 RAG 职责。资料未提供具体价格、平台支持范围与性能数据。