SuperAPI AI 工具集

local-rag

智能体与模型

查看项目

更新于 10-16 01:38

技能介绍

用途:面向财务、审计等场景的轻量本地 RAG 知识库,把制度类文档按项目管理并做语义检索,帮助定位条款。

主要能力:切片使用 Chonkie RecursiveChunker 加 15% overlap,中文制度文档按“第X章”、双换行、单换行三级递归切分,目标约 800 字符;向量库为 ChromaDB 持久化存储,每个项目对应一个 collection,项目间文档完全隔离。解析支持 .docx、.doc、.pdf、.md,扫描版 PDF 每页文字少于 50 字符时自动调 MinerU。默认 Embedding 为硅基流动 BAAI/bge-m3(1024 维、8192 tokens),默认 Reranker 为 BAAI/bge-reranker-v2-m3;也支持 Ollama 离线 embedding 与 reranker,或已有 OpenAI 账号。

使用方式:先运行 local-rag setup 或设置 SILICONFLOW_API_KEY 环境变量,并用 local-rag info 检查配置。CLI 命令包括 local-rag create/delete/list 管理项目,local-rag ingest 项目 路径 入库,local-rag search 项目 查询 检索,加 --rerank --top-k 20 启用重排,另有 local-rag chunk-test、info。也可用 Python API 的 Pipeline 调 create_project、ingest、search、search_with_rerank、chunk_test;或运行 mcp_server.py 获得 create_project、delete_project、list_projects、ingest、search、rerank_search 六个工具。

适用场景:单机或内网环境下对制度文档做按项目隔离的语义检索,推荐 search_with_rerank 先取 top-20 再重排 top-10,并由 LLM 阅读候选完整内容做二次判断。

限制与注意:需要 Python 3.10+ 并安装 requirements.txt 依赖;默认模式需硅基流动 API Key,不能将 Key 写入 config.yaml,应通过环境变量引用。项目名仅允许英文、数字、点、横线;删除项目会同时删除文档与向量。向量检索无法判断“无对标”,需 LLM 二次判断;embedding 余弦相似度重排效果有限,cross-encoder 更精准但需 torch、transformers 与约 2.3GB 模型;Ollama 模式需本地模型约 2.5GB。具体收费与价格资料暂未提供。