LLM Gateway 是一个开源的 LLM API 网关，目标是用一个 API 统一对多家大模型提供商的调用。根据官方资料，它支持 40 多家提供商、250 多个模型，包括 OpenAI、Anthropic 和 Google。它提供兼容 OpenAI 的 API 接口，用户可继续使用现有 OpenAI SDK 代码，只需更改 base URL 即可接入。
主要能力包括：
- 统一 API 接口：保持原有 OpenAI SDK 代码，更换 base URL 即可使用。
- 多提供商支持：通过一次集成访问 40 多家提供商，切换模型无需改动代码，避免供应商锁定。
- 性能监控：比较不同模型的延迟、成本和质量，帮助选择适合具体用例的模型。
- 安全的密钥管理：在一个仪表盘中集中管理所有提供商密钥，减少凭据分散或泄露风险。
- 自托管或云端：可运行在自己的基础设施上以完全控制，也可使用官方托管服务。
- 成本分析：查看 7 天或 30 天内的请求数、token 数、总花费以及每 1K token 的平均成本；可按提供商和模型细分使用量与花费，快速发现高成本异常。
- 错误与可靠性监控：在仪表盘中监控错误率、缓存命中率和可靠性趋势。
- 项目级使用情况：按项目查看请求、模型、错误、缓存和成本，配有专门的图表与表格。
- 企业审计日志：追踪谁在何时做了什么，保留完整审计轨迹以支持合规。
- 智能防护栏：防止提示注入、检测 PII、拦截恶意请求。
使用方式： 官方称可在约 30 秒内开始路由请求。应用中发送一次请求，网关会自动路由到 OpenAI、Anthropic、Google 或其他 40 多家提供商之一。支持使用其 AI SDK 提供方、任意 OpenAI SDK、cURL 或任意语言；可在任意模型上运行 DevPass Code、Claude Code、Codex、OpenCode 或 Empryo，并通过更改一个字符串来切换模型。支持的端点示例包括：POST /v1/chat/completions、POST /v1/responses、POST /v1/images/generations、POST /v1/images/edits。
生产控制： 作用域化密钥、花费上限、故障转移和防护栏都位于网关中，而不是在应用代码里。企业版支持 SSO（Okta、Entra ID 或其他 SAML 2.0 提供商，含 SCIM 配置）、按组织和项目的角色，以及按应用限定范围的 API 密钥。可在提供商看到敏感数据之前检测聊天请求中的邮箱、卡号、密钥、提示注入和越狱尝试，并按组织或项目选择阻止、脱敏或警告。可为任意 API 密钥或成员设置花费上限，达到后请求停止，并可选在密钥额度用完前发出提醒；企业版支持团队预算。当某个提供商报错、超时或限流时，网关会在同一请求内用该模型的另一家提供商重试最多两次（请求若固定到某提供商则保持在该提供商）。
部署：
- 企业云：由官方运行，提供 99.9% SLA 和专门支持。
- 自托管：使用 Docker 或 Kubernetes（官方 Helm chart）部署在自己的网络中；企业功能需要许可证密钥。核心以 AGPLv3 开源，企业代码为 source-available。
- 提供商策略（企业版）：仅路由到符合组织关于总部国家、数据保留和训练政策规则的提供商。
定价与套餐： 官方提供免费层，无需信用卡；支持自带密钥（Bring Your Own Keys）免费使用自己的提供商 API 密钥。另有五个产品线（API、分析、AI 编程套餐、聊天与创作、模型上架），路由、计费和数据分析在各产品线下相同。具体价格资料仅提及聊天产品：快速模型每月 9 美元起，旗舰模型每月 19 美元起；其他套餐的详细价格暂未提供。
其他信息： 官方称每个提供商独立平均约 94% 的正常运行时间，通过多提供商自动故障转移，同时宕机的概率接近零，因而有效正常运行时间可达 99.9999%。与 OpenRouter 的区别包括：AGPLv3 许可下的完整自托管；更深入的实时成本与延迟分析；自带密钥免费；灵活的企业附加项（专用分片、自定义 SLA）。
