Higress 是一款 CNCF Sandbox 开源 AI 网关，基于 Istio 与 Envoy 构建，面向 LLM API、AI Agent 与 MCP Server 提供统一接入、流量治理、安全防护和可观测能力，定位为 Agent 开发与 LLM API 管理的生产级基础设施。它与官网 higress.ai 提供的开源版本，以及云上商业化产品两种渠道并行，一键即可体验 AI 应用场景。
主要能力 统一接入与协议转换：AI 网关能够将外部调用不同大模型的请求，通过统一的调用方式转发到内部对应的大模型，使后端模型调度更加灵活；支持常用的 100+ 个模型的统一协议转换，并支持模型级 Fallback。可接入 OpenAI、Claude 及国产大模型。 数据安全与内容过滤：对输入到外部模型的数据进行隐私保护，对输出给用户的数据进行内容过滤。相关资料提到可“不改一行业务代码，把 AI 内容安全做进网关主链路”。 推理结果缓存：支持精确缓存及语义缓存推理的结果上下文，对常见的相似或重复问题节省 Token 并减小时延，提升调用体验。 Token 追踪与限额：能够对大模型使用的 Token 数量进行追踪，在消费者使用超额时进行限制，从而更好管理调用 AI 应用的用户额度，为 Token 使用分析提供数据支持。 MCP 服务托管：接收 MCP 请求并完成协议卸载，提供统一的身份认证、流量调度、参数映射与安全审计等能力，使开发者无需深入了解 MCP 协议细节即可将现有服务快速暴露为 MCP Server。Higress MCP 市场提供完善解决方案，可快捷将数据 API 转化为 MCP 工具。拥抱 MCP 2026-07-28，兼容既有协议。 插件与多数据源：在开源 wasm client 上做了封装，便于开发者做插件开发，例如插件生效的范围控制，社区已有很多插件能力可直接使用；集成多种主流注册中心，多数据源能力可直接复用，减少重复建设。
使用方式 资料显示无需注册，Docker 一键启动即可体验；同时提供全托管免运维的云上商业版本，按调用量自动弹性伸缩，统一承载 LLM / Agent / MCP 核心能力。生产环境可选企业版，提供 99.95% SLA。官网还提供版本对比、定价与 TCO 计算器，以及从新版 MCP 到 Gateway API 推理扩展的相关内容。
适用场景 面向大规模应用 AI 技术时出现的多模型接入、缺乏统一流量治理等问题，企业可基于 Higress 构建 AI 网关，统一管理大模型服务和 MCP 服务接入，实现认证鉴权、流量控制、模型映射等功能。相关资料提到携程选择基于 Higress 构建 AI 网关，系统稳定运行并支持多场景，未来将优化存量化 HTTP API 向 MCP 服务的转化能力。君润人力在构建交付不同岗位工作结果的数字员工（智能体）过程中使用 Higress，截至目前已有超过 1000 名数字员工 7×24 小时工作，累计节约人力成本超过上千万。SOFA AI 网关基于开源 Higress 内核构建，聚焦安全防护、流量管控、语义缓存、构建金融 MCP 市场等核心功能，通过智能路由、统一接入解决 AI 场景下的高延迟、资源消耗大等挑战。今日投资推出今日投资金融数据 MCP 服务，通过 Higress MCP 市场将金融数据 API 转化为 MCP 工具，用户可通过 MCP 方式调用专业金融数据，构建金融大模型应用。
限制与其他说明 现有资料未提供具体的安装命令细节、详细价格数字、各版本功能差异清单以及性能基准数据，相关信息暂未提供。
