SuperAPI AI 工具集

Backmesh

Backmesh 是一款面向 AI 应用的开源后端即服务(BaaS),旨在帮助开发者在不搭建自有后端的情况下,安全地调用 LLM API。它将 LLM 密钥隐藏在应用之外,避免密钥泄露导致高额 API 费用。主要特性包括基于 JWT 的身份验证、可配置的按用户速率限制、API 资源访问控制,以及无需额外包即可获得的 LLM 使用分析。

访问官网

工具介绍

Backmesh 是一个开源的后端即服务(BaaS),专为 AI 应用设计,使应用能够安全地调用 LLM API 而无需自建后端。

主要用途 核心目标是解决在应用内直接嵌入 LLM API 密钥所带来的安全与成本风险。通过将密钥存储在 Backmesh 后端,避免密钥随客户端分发而泄露,从而防止滥用导致的巨额 API 费用。

主要能力

  • 密钥保护:使用军事级加密保护 LLM API 密钥,避免在应用中暴露。
  • JWT 身份验证:请求通过应用身份提供商的 JWT 进行验证,确保只有应用的合法用户才能通过 Backmesh 访问 LLM API。
  • 按用户速率限制:可配置每个用户的速率限制,防止滥用,例如限制每小时每个用户最多调用 5 次 OpenAI API。
  • API 资源访问控制:对敏感 API 资源(如 Files 和 Threads)进行保护,只有创建它们的用户才能继续访问。
  • LLM 用户分析:所有 LLM API 调用均被插桩记录,无需额外安装包即可识别使用模式、降低成本并提升用户满意度。

使用方式 Backmesh 作为开源、经过充分测试的后端运行。开发者将应用对接至 Backmesh,由后者代理 LLM API 调用;请求携带来自应用身份提供商的 JWT 进行验证;可配置按用户速率限制;敏感资源受访问控制保护。官方未提供具体安装命令或代码示例,暂未提供相关细节。

适用场景

  • 需要在前端或移动端调用 LLM API 但不想暴露密钥的 AI 应用。
  • 需要按用户控制 API 调用频率、防止滥用的场景。
  • 需要保护用户私有资源(如文件、对话线程)的多用户 AI 应用。
  • 希望通过调用数据分析来优化成本和体验的 LLM 应用。

限制 关于定价、支持的 LLM 提供商、具体部署方式、性能指标等,官方文本暂未提供,需进一步查阅官方文档。