Spice AI 构建了 Spice,一个面向企业数据的开源引擎,集 SQL 查询、搜索和 LLM 推理于一体。应用和 AI 智能体通过一个 SQL 端点查询数据库、数据湖和数据仓库。Spice 还可以保留运营数据库的分析副本,使分析读取不加载生产系统。团队可以在自己的基础设施上运行 Spice,或使用托管的 Spice Cloud Platform。
主要能力:
- 快速、联邦式地访问所有数据:连接并查询企业内的运营数据库、数据湖和数据仓库。将工作集物化并加速到内存或磁盘,实现毫秒级访问。
- SQL 联邦与加速:跨来源实现亚秒级查询性能,据官方称查询速度最高提升 100 倍,湖仓支出最高降低 80%,数据可靠性提升 2 倍。
- 实时分析而不影响生产:数分钟内为运营数据部署分析副本,实现快速、隔离的实时查询。
- 混合 SQL 搜索:使用标准 SQL 运行混合搜索,将结构化过滤、向量相似度和关键词匹配合并到一个查询中,并按相关性对合并结果排序。
- 查询层内调用 LLM:通过 SQL UDF 或自然语言内联调用托管或本地 LLM,在 Spice 运行时内完成文本翻译、摘要生成、实体分类和查询结果增强。
- 面向 AI 智能体的隔离数据访问:为应用和智能体提供隔离、最小权限的数据集,无需直接访问数据库,支持 RAG、智能体和 AI 工作流。
- 分布式可观测性:对 SQL、嵌入、搜索和 LLM 调用进行端到端追踪,便于调试、测量延迟并证明 ROI。
使用方式:Spice 是用 Rust 编写的,使用 Apache DataFusion 作为 SQL 查询引擎,数据以 Apache Arrow 列式格式在运行时中移动。Apache Ballista 在集群上运行分布式查询。Spice Cayenne 加速器以 Vortex 列式格式存储本地副本。AI 智能体可以通过三种接口查询 Spice:SQL API、兼容 OpenAI 的聊天 API,以及 MCP 服务器。
部署方式:Spice 可以在笔记本电脑、本地、边缘或任何云上运行。团队可将其作为应用旁边的边车、共享微服务,或 Kubernetes 上的分布式集群来部署。Spice Cloud Platform 以托管服务形式运行 Spice。
适用场景:从消息平台到安全系统,官方称 Twilio 和 Barracuda 等公司依赖 Spice 大规模交付低延迟应用和 AI 智能体。Twilio 的软件架构师表示,Spice 打开了将关键控制平面数据集移动到运行时路径中服务旁边的大门。Barracuda 的首席软件工程师表示,它启动即可用,响应能力惊人。NRC Health 的技术副总裁称,与 Spice AI 合作改变了其交付 AI 驱动洞察的方式,将上市时间从数月缩短到数周甚至数天。
限制与说明:
- Spice 不替代运营数据库。它运行在现有数据库、数据湖和数据仓库旁边,这些系统仍是事实来源。应用继续写入运营数据库,Spice 通过 SQL 联邦和加速提供读取服务。
- Spice.ai 开源版基于 Apache 2.0 许可证免费使用,提供 GitHub 和 Slack 社区支持。Spice Cloud 提供托管服务,含订阅和基于用量的计划。企业计划增加商业许可、24/7 支持和 SLA。
- 具体定价细节暂未提供。
- 安装命令、代码示例等未在资料中提供,暂未提供。
Spice 开源文档和 Cookbook 提供超过 80 个指南和示例,帮助构建数据驱动的 AI 应用和智能体。