用途:在 OmniRoute 中创建和配置路由组合(combo)。combo 是一组带路由策略的提供商/模型集合,调用方只需使用单个模型 ID(如 my-combo),请求会自动分发、故障转移和负载均衡。需先配置 OMNIROUTE_URL 与 OMNIROUTE_KEY。
主要能力:列出、创建、启用/停用 combo,查看指标,模拟路由。14 种策略包括 priority(固定首选、出错回退)、weighted(按权重)、round-robin、fill-first、least-used、cost-optimized、auto(9 因子评分:成本、延迟、配额、熔断等)、random、strict-random、p2c、reset-aware、lkgp、context-optimized、context-relay。
用法:列出用 GET $OMNIROUTE_URL/api/combos;创建用 POST /api/combos,提交 name、strategy、targets(provider、model、weight);启用/停用用 PUT /api/combos/{id}/toggle;指标用 GET /api/combos/{id}/metrics(返回 p50/p95/p99 延迟、成功率、成本及分目标明细);模拟用 POST /api/routing/simulate(仅返回选择结果与原因,不实际调用)。生产推荐 auto 策略,随后以 model 为 combo 名调用 /v1/chat/completions。若 OmniRoute 作为 MCP 服务器,可用 omniroute_list_combos、omniroute_switch_combo、omniroute_set_routing_strategy、omniroute_simulate_route、omniroute_best_combo_for_task。
限制:常见错误为 404 combo 不存在、400 策略无效、409 名称冲突。其余如计费、平台支持等暂未提供。