SuperAPI AI 工具集

chroma-local

编程与开发

查看项目

更新于 10-15 20:12

技能介绍

用途:指导在本地或自托管场景下使用 Chroma 做语义搜索,包括连接本地服务器、在测试中嵌入 Chroma,或从零搭建本地开发环境。

主要能力:帮助确定运行时形态(chroma run、Docker/服务命令、HttpClient/ChromaClient 或 Python EphemeralClient)、持久化策略(持久数据用固定路径,临时测试用默认或临时目录)、嵌入模型(优先复用应用已有提供方,否则 TypeScript 用 @chroma-core/default-embed,Python 用标准本地默认;显式需要 OpenAI 嵌入时在 TypeScript 安装 @chroma-core/openai)、索引数据形态(分块与元数据)以及路由方式。

使用方式:本地服务器默认 localhost:8000,改动客户端前先确认主机与端口并验证可达性;TypeScript 用 getOrCreateCollection(),Python 用 get_or_create_collection();设计文档 ID 与元数据以便 upsert 和删除,大批量同步时批量写入;默认使用余弦相似度、分块小于 8KB、在元数据中存源 ID。

适用场景:本地开发、测试、自托管部署。

限制:开源 Chroma 不含 Schema()、Search() 等仅 Chroma Cloud 提供的功能;混合稠密与稀疏检索通常视为 Chroma Cloud 需求,除非仓库已有开源替代实现;开源版常规基线是单一嵌入函数的稠密检索。嵌入模型选择、是否需要持久化、服务器启动方式、多租户隔离策略需先询问;EphemeralClient 数据在进程退出后丢失,不应在临时与持久模式间静默切换。需要额外 API 或产品细节时可参考 https://docs.trychroma.com/llms.txt。