Gateway 是 Portkey 推出的开源 AI 网关，定位为快速、可靠且安全的路由层，用于连接 1600+ 语言、视觉、音频和图像模型。官方称其为轻量级、开源且面向企业就绪的方案，可以让开发者在 2 分钟内与任意语言模型集成，并具备低于 1ms 延迟和 122kb 体积的特点，每天处理超过 100 亿 tokens。
用途方面，它主要解决多模型接入的统一入口问题：通过统一 API 屏蔽不同提供商的差异，并在此基础上提供可靠性、安全、成本管理和协作能力。官方将其描述为“集成防护栏的极速 AI 网关”，支持路由到 1600+ LLM、50+ AI Guardrails。
主要能力包括：可靠路由，支持失败时回退到另一个提供商或模型并可指定触发错误类型；自动重试最多 5 次并采用指数退避；按权重在多个 API key 或提供商之间负载均衡；细粒度请求超时；多模态调用，可用 OpenAI 风格签名调用视觉、音频（文本转语音与语音转文本）和图像生成模型；通过 WebSocket 集成服务器调用 OpenAI 的实时 API。安全与准确性方面提供 40+ 预置 Guardrails，也可自带防护栏或选择合作伙伴方案，并支持自有密钥或即时生成虚拟密钥、基于角色的访问控制，以及 SOC2、HIPAA、GDPR、CCPA 合规。成本管理方面支持简单缓存与语义缓存、用量分析（请求量、延迟、成本、错误率）以及提供商优化。协作与工作流方面可与 Autogen、CrewAI、LangChain、LlamaIndex、Phidata、Control Flow 及自定义 Agent 集成，并提供提示模板管理与版本化（部分功能标注为托管应用提供）。项目还附带 40+ 提供商的 LLM 定价数据库，用于成本追踪。
使用方式上，官方快速开始说明：网关运行在 http://localhost:8787/v1，网关控制台运行在 http://localhost:8787/public/。支持的库包括 JS、Python、REST、OpenAI SDK、LangChain、LlamaIndex、Autogen、CrewAI 等。配置（Configs）可用于创建路由规则、增加可靠性并设置防护栏。企业版支持私有部署，平台包括 AWS、Azure、GCP、OpenShift、Kubernetes；企业版提供组织管理、治理、安全等能力。MCP Gateway 为组织内 MCP（模型上下文协议）服务器提供集中控制平面，具备统一认证、访问控制、可观测性（记录每次工具调用的上下文、参数、响应、延迟）以及身份转发，并可与 Claude Desktop、Cursor、VS Code 等 MCP 兼容客户端配合使用。
适用场景包括：需要接入多家模型提供商并希望统一 API 与故障切换的 AI 应用；需要缓存、成本追踪与用量分析来控制 LLM 开销的团队；需要在输入输出层加入安全与合规校验的企业部署；以及需要集中治理 MCP 服务器和代理工作流的组织。
限制方面：官方资料未提供具体的开源许可证名称、代码仓库的完整安装命令细节（仅给出运行地址与支持库列表），也未给出各类功能的具体定价、SLA 数值或性能基准的完整测试条件；语义缓存、提供商优化、提示模板管理等功能标注为在托管应用上提供。上述未明确内容暂未提供。
