SuperAPI AI 工具集

infinity

Infinity 是一个面向 LLM 应用的 AI 原生数据库,提供稠密向量、稀疏向量、张量(多向量)与全文检索的极速混合搜索能力。

访问官网

工具介绍

Infinity 是一个面向 LLM 应用的 AI 原生数据库,核心定位是提供稠密向量、稀疏向量、张量(多向量)与全文检索的极速混合搜索。它面向搜索、推荐、问答、对话式 AI、copilot、内容生成等 LLM 应用,以及各类 RAG(检索增强生成)场景。

主要能力:

  • 高性能:在百万级向量数据集上实现 0.1 毫秒查询延迟和 15K+ QPS;在 3300 万篇文档的全文检索中实现 1 毫秒延迟和 12K+ QPS。
  • 强大搜索:支持稠密向量、稀疏向量、张量和全文的混合搜索,并支持过滤;支持多种重排序器,包括 RRF、加权求和与 ColBERT。
  • 丰富数据类型:支持字符串、数值、向量等多种数据类型。
  • 部署与使用:单二进制架构、无依赖,便于部署;可作为 Python 模块嵌入式使用,并提供直观的 Python API。

使用方式: 支持通过 Docker 部署 Infinity 数据库,客户端与服务端作为独立进程运行。安装要求:CPU 为支持 AVX2 的 x86_64;操作系统为 Linux(glibc 2.17+)、Windows 10+(WSL/WSL2)或 macOS;Python 3.11+。在 Windows 10+ 上需启用 WSL 或 WSL2 以使用 Docker 部署。安装服务端时,先创建数据目录并授权,然后拉取镜像并启动容器,命令如下: sudo mkdir -p /var/infinity && sudo chown -R $USER /var/infinity docker pull infiniflow/infinity:nightly docker run -d --name infinity -v /var/infinity/:/var/infinity --ulimit nofile=500000:500000 --network=host infiniflow/infinity:nightly 若使用 Windows Docker Desktop 4.29+,需在“设置 > 开发中的功能”中选择“启用主机网络”。此外,资料还提到安装 Infinity 客户端并运行向量搜索,以及通过二进制方式部署(服务端与客户端分离)、从源码构建,具体步骤暂未提供详细内容。

适用场景: 搜索、推荐系统、问答、对话式 AI、copilot、内容生成,以及各类 RAG 应用。

限制: 资料未提供收费、价格、平台支持范围与效果保证等信息;部分部署与构建步骤(二进制部署、源码构建、客户端安装的具体命令)暂未提供。