用途:为 AI/ML 生产数据管道提供可落地模式,覆盖嵌入生成、向量存储选型、RAG 系统构建与 LLM 用量监控,兼顾本地与云端方案的成本与性能权衡。
主要能力:对比嵌入方案(OpenAI text-embedding-3-small/3-large、ada-002 与本地 sentence-transformers 的 MiniLM-L6、MPNet-base)的维度、成本与速度;对比向量库 LanceDB、pgvector、DuckDB、Pinecone/Weaviate 的部署、规模、索引类型与适用场景;给出简单 RAG、带重排序的高级 RAG、向量+关键词混合 RAG 三种架构;提供管道选型矩阵(如内部知识库、客服机器人、医疗、金融、多模态等场景);并给出嵌入、向量存储、RAG、监控四类最佳实践。
使用方式:文档含可运行代码示例,包括用 openai 与 tiktoken 批量生成嵌入并写入 Polars DataFrame、用 sentence-transformers 本地编码、用 LanceDB 建表建索引并做带过滤的向量检索、完整 RAGPipeline(检索+LLM 生成+来源引用)、以及用 DuckDB 记录 LLM 调用并统计用量,配合 tenacity 实现指数退避重试。
适用场景:RAG 应用与原型、生产级检索系统、隐私敏感或离线环境、已有 PostgreSQL 的事务型系统、超大规模向量检索、多模态数据等。
限制:文中成本数字为示例,需按当前定价更新;DuckDB 不适合超过 10 万向量(无 ANN 索引);同一索引不可混用不同嵌入模型;默认不应记录完整提示词以规避 PII 与成本问题。具体平台与价格信息以官方为准。