OrcaRouter 是一个面向生产环境的 OpenAI 兼容 AI 网关（AI Gateway for Adaptive Routing），将自适应路由、负载均衡、护栏、智能体防火墙、可观测性与治理整合到一个端点中，覆盖 200 多个模型。其核心理念是“一个网关，所有模型，数据始终归你”。
用途与定位 OrcaRouter 位于应用与多个模型之间，充当 AI 网关／AI 路由器／AI CDN 角色：对每个请求的提示词进行评分（宣称低于 1 毫秒），然后路由到最适合回答该请求的模型——困难推理走前沿模型，常规任务走开源模型。它同时在同一跳上强制执行预算、护栏与可观测性。
主要能力
- 路由与负载均衡：基于上下文嵌入与在线学习进行自适应路由，官方称在公开 RouterArena 榜单上准确率为 75.5%，并击败 GPT-5 与 Azure。提供自动故障转移、提示词缓存和按请求可观测性。每个工作区可设为“最便宜且达标”“最高质量”或“平衡”，也可使用 orcarouter/auto 逐请求自动调优。
- 兼容性：一个 OpenAI 兼容端点，支持 Chat Completions、Responses、Embeddings、Images、Audio 与流式输出；OpenAI、Anthropic 或 Google SDK 代码可继续使用，只需切换 base_url。
- 隐私架构：数据遮蔽（Data Cloaking）在调用前将姓名、邮箱和卡号替换为替身，回答中再还原；ZDR 零留存，默认不记录提示词，除非开启日志，可签署零留存协议锁定；PQC 后量子加密，用户选择保留的日志以混合 ML-KEM 密封，加密开源（SCUTTLE），默认开启；数据驻留可声明 US、EU、UK、亚太或中国，合规报告据此标记；TEE 可信执行环境，经证实的飞地并为每个回答提供证明。
- 护栏：在模型看到之前拦截 PII、密钥、越狱和提示词注入，阻止在计费前发生；模式规则免费，AI 评判规则仅对检查本身计费。
- 智能体防火墙：对每个工具和 MCP 调用进行评分，允许、转人工审核或在运行前阻止，默认处于观察状态。
- 合规包：映射到 32 个框架，每个法规一个策略，可先在真实流量上观察再开启强制执行（付费计划）。
- 人类审批队列、将威胁标记到 OWASP LLM Top 10 和 MITRE ATLAS、基于 OWASP LLM Top 10 的威胁标记、代理事件公开档案。
- 提示词版本管理与缓存复用，无需改动代码。
使用方式 官方称“上线 60 秒”：将 SDK 的 base_url 设为 api.orcarouter.ai/v1 并替换 API key，无需其他代码改动；路由、护栏和可观测性由 OrcaRouter 处理。
计费与定价 OrcaRouter 声称对按量付费和订阅零加价，代币按各提供商公布价格计费，自身不加价；收入来自可选的团队功能。三种付费方式：按量付费（随时充值，按提供商价格，每次调用有收据）、信用订阅（每周期充值钱包，全额、任意模型，较大计划含奖励信用）、自带密钥（使用自己的提供商密钥、速率限制和信用）。计划面向团队功能，不改变代币价格。
适用场景 适合需要统一接入多模型、按请求智能选择模型、控制成本、并在同一层实现治理、安全与可观测性的生产 AI 应用与团队。
限制与说明 官方说明数据区域设置目前仅为合规报告打标签，尚不固定数据存储或推理运行的位置；推理由所选模型对应的提供商在其区域内执行。隐私方面，官方称不会用提示词训练，除非工作区开启日志，否则不记录提示词与响应正文，但会保留请求元数据（时间、模型、代币、成本、IP）用于计费和安防。提示词评分低于 1 毫秒，总增加延迟低于 50 毫秒。官方称迁移只需换一行。
以上信息均来自官方页面，具体功能可用性、区域支持与团队功能细节可能因计划而异，暂未提供更细的版本与地区清单。
