OmniRoute Chat 是 OmniRoute 项目的一个技能,用于通过统一入口进行对话与代码生成。使用前需要配置两个环境变量:OMNIROUTE_URL 与 OMNIROUTE_KEY,具体设置方式参见入口 SKILL 文档。
接口与格式 该技能提供三个 POST 端点:$OMNIROUTE_URL/v1/chat/completions 采用 OpenAI 格式;$OMNIROUTE_URL/v1/messages 采用 Anthropic Messages 格式;$OMNIROUTE_URL/v1/responses 对应 OpenAI Responses API。请求通过 Authorization: Bearer $OMNIROUTE_KEY 鉴权,Anthropic 格式还需 anthropic-version: 2023-06-01 请求头。
模型发现 可调用 curl $OMNIROUTE_URL/v1/models | jq '.data[].id' 列出可用模型。
组合路由 combo(如 auto、cost-optimized、subscription)会在多个供应商之间自动回退,适用于需要容错或按成本/订阅策略选路的场景。
流式与示例 OpenAI 格式示例中设置 stream: true 可启用 SSE 流式输出;Anthropic 格式示例需指定 max_tokens(示例为 4096)。
工具调用与 RTK 压缩 支持 OpenAI tools 数组和 Anthropic tools 块。工具结果会经 RTK 自动压缩,共 47 种过滤器(包括 git-diff、grep、test-jest、terraform-plan、docker-logs 等),据资料可节省 20-40% token;可在单个请求中通过 X-Omniroute-Rtk: off 请求头关闭。
推理内容 Anthropic 扩展思考与 OpenAI Responses 推理块会原样转发,并通过 reasoning cache 自动缓存。
错误处理 401 表示 API key 无效;400 invalid_model 表示模型不在注册表中,应检查 /v1/models;503 circuit_open 表示供应商熔断器触发,可稍后重试或改用 combo;429 rate_limited 应遵循 Retry-After,并考虑使用 combo 自动回退。
适用场景与限制 适合需要以 OpenAI 或 Anthropic 兼容格式调用多家模型、希望流式输出、工具调用与自动回退的对话及代码生成任务。资料未提供具体支持的模型清单、定价、速率限制数值或部署要求,这些信息暂未提供。