Backmesh 是一个开源的后端即服务(BaaS),专为 AI 应用设计,使应用能够安全地调用 LLM API 而无需自建后端。
主要用途 核心目标是解决在应用内直接嵌入 LLM API 密钥所带来的安全与成本风险。通过将密钥存储在 Backmesh 后端,避免密钥随客户端分发而泄露,从而防止滥用导致的巨额 API 费用。
主要能力
- 密钥保护:使用军事级加密保护 LLM API 密钥,避免在应用中暴露。
- JWT 身份验证:请求通过应用身份提供商的 JWT 进行验证,确保只有应用的合法用户才能通过 Backmesh 访问 LLM API。
- 按用户速率限制:可配置每个用户的速率限制,防止滥用,例如限制每小时每个用户最多调用 5 次 OpenAI API。
- API 资源访问控制:对敏感 API 资源(如 Files 和 Threads)进行保护,只有创建它们的用户才能继续访问。
- LLM 用户分析:所有 LLM API 调用均被插桩记录,无需额外安装包即可识别使用模式、降低成本并提升用户满意度。
使用方式 Backmesh 作为开源、经过充分测试的后端运行。开发者将应用对接至 Backmesh,由后者代理 LLM API 调用;请求携带来自应用身份提供商的 JWT 进行验证;可配置按用户速率限制;敏感资源受访问控制保护。官方未提供具体安装命令或代码示例,暂未提供相关细节。
适用场景
- 需要在前端或移动端调用 LLM API 但不想暴露密钥的 AI 应用。
- 需要按用户控制 API 调用频率、防止滥用的场景。
- 需要保护用户私有资源(如文件、对话线程)的多用户 AI 应用。
- 希望通过调用数据分析来优化成本和体验的 LLM 应用。
限制 关于定价、支持的 LLM 提供商、具体部署方式、性能指标等,官方文本暂未提供,需进一步查阅官方文档。