SuperAPI AI 工具集

chroma

智能体与模型

查看项目

更新于 10-16 02:32

技能介绍

用途:Chroma 是 AI 原生的开源嵌入数据库,用于构建带记忆的 LLM 应用,适合 RAG(检索增强生成)、文档语义搜索、在 notebook 中做原型,以及需要本地或自托管向量库、存储带元数据嵌入的场景。官方建议在需要托管云与自动扩缩容时考虑 Pinecone,纯相似度检索无元数据时考虑 FAISS,生产级 ML 原生数据库考虑 Weaviate,高性能 Rust 实现考虑 Qdrant。

主要能力:创建、获取、删除集合;添加文档并自动生成或自定义 ID;支持传入自定义嵌入;按文本查询做相似度检索并返回 documents、metadatas、distances、ids;支持 where 元数据过滤,含 $gt、$gte、$lt、$lte、$ne、$in 及 $and、$or 逻辑组合;支持按 ID 或过滤条件获取、更新、删除文档;提供持久化客户端将数据写入磁盘;内置默认 Sentence Transformers 嵌入(all-MiniLM-L6-v2),也支持 OpenAI、HuggingFace 及自定义 EmbeddingFunction;提供 LangChain、LlamaIndex 集成;支持以服务端模式运行并通过 HttpClient 连接。

使用方式:Python 安装 pip install chromadb;JavaScript/TypeScript 安装 npm install chromadb @chroma-core/default-embed。基本流程为创建客户端与集合,调用 add 写入文档、元数据与 ID,再用 query 检索。持久化使用 chromadb.PersistentClient(path="./chroma_db")。服务端模式可运行 chroma run --path ./chroma_db --port 8000,再用 HttpClient 连接。

适用场景与限制:适合本地开发、原型与自托管检索;生产多用户场景官方建议使用服务端模式。资料给出的性能参考为:添加 100 条文档约 1-3 秒(含嵌入),top 10 查询约 50-200 毫秒(取决于集合规模),元数据过滤约 10-50 毫秒。资料未提供具体收费与价格信息。