Verba(The Golden RAGtriever)是一个由Weaviate社区驱动的开源应用,旨在开箱即用地提供端到端、精简且用户友好的检索增强生成(RAG)体验。用户可以通过它探索数据集并从本地(Ollama、HuggingFace)或通过Anthropic、Cohere、OpenAI等LLM提供商提取见解。
主要用途:围绕个人数据构建可定制的个人助理,用于查询文档、交叉引用多个数据点或从现有知识库中获取见解。它结合了RAG技术与Weaviate的上下文感知数据库。
主要能力:用户可选择不同的RAG框架、数据类型、分块与检索技术以及LLM提供商。支持多种数据导入方式,包括通过Unstructured IO导入纯文本、.pdf、.csv等格式;通过AssemblyAI导入音频文件或视频中的音频。支持OpenAI模型(如Ada、GPT3、GPT4)、HuggingFace本地嵌入模型、Groq LPUs作为生成引擎、Novita AI等。Weaviate连接支持本地Embedded(实验性,不支持Windows)、Docker、Weaviate Cloud(WCD)以及自定义实例(可指定URL、PORT、API Key)。
使用方式:提供三种部署选项——pip安装(需Python >=3.10.0,<3.13.0)、从源码构建、Docker部署。Docker方式可拉取镜像docker pull semitechnologies/verba,或克隆仓库后运行docker build -t verba .。启动后先选择部署类型(Local、Docker、Weaviate Cloud或Custom),然后通过Import Data页添加文件、目录或URL,最后在Chat页面提问,获得语义相关的文本块和所选模型生成的答案。RAG流水线可在Config标签页中配置。API密钥可在前端设置,也可通过.env文件配置。具体环境变量包括UNSTRUCTURED_API_KEY、UNSTRUCTURED_API_URL、ASSEMBLYAI_API_KEY、OPENAI_API_KEY、OPENAI_BASE_URL、OPENAI_EMBED_API_KEY、OPENAI_EMBED_BASE_URL、OPENAI_CUSTOM_EMBED、GROQ_API_KEY、OLLAMA_URL等。
适用场景:需要基于自有文档或知识库进行问答的个人或团队,可本地运行以保障数据隐私,或通过云部署扩展。多语言支持取决于所选嵌入和生成模型。
限制:项目已停止开发并归档,不再接收更新、错误修复、安全补丁或新功能,问题和PR不再审核或合并。代码按原样提供,无稳定性、兼容性或支持保证。现有部署可继续运行,但不应期望持续维护。Weaviate Embedded在Windows上不受支持且为实验模式;Verba要求数据以特定格式导入,无法使用Weaviate实例中已有的数据,只能通过Verba UI导入;使用Ollama时需确保服务器后台运行且不要混用不同模型(向量维度可能不同)。Docker Hub拉取的镜像为vanilla版本,不包含HuggingFace等包,需自行构建。