SuperAPI AI 工具集

omniroute-routing

智能体与模型

查看项目

更新于 10-22 16:16

技能介绍

OmniRoute 路由与组合用于管理 OmniRoute 中的路由组合(combo)。一个组合是一组带路由策略的供应商/模型目标,调用方只需使用组合名作为模型 ID(如 my-combo),请求就会被自动分发、故障转移和负载均衡。

使用前需要设置 OMNIROUTE_URL 和 OMNIROUTE_KEY(参见入口 SKILL 的配置说明)。

主要能力

  • 列出组合:GET /api/combos,返回 id、name、strategy、enabled 以及各目标统计。
  • 创建组合:POST /api/combos,提交 name、strategy 和 targets(每个目标含 provider、model,可带 weight)。
  • 启用/停用:PUT /api/combos/{id}/toggle,提交 enabled。
  • 指标查询:GET /api/combos/{id}/metrics,返回 p50/p95/p99 延迟、成功率、成本及各目标细分。
  • 路由模拟:POST /api/routing/simulate,返回会选中哪个供应商及原因,不发起真实 API 调用。

14 种路由策略 priority:始终使用 target[0],出错时回退;weighted:按权重比例分配;round-robin:按顺序轮换目标;fill-first:先填满 target[0] 的配额再溢出;least-used:路由到活跃请求最少的目标;cost-optimized:按 token 估算选择最便宜目标;auto:基于成本、延迟、配额、熔断等 9 个因素打分;random:均匀随机;strict-random:随机且不重复直到全部用过;p2c:随机取 2 个选更优者;reset-aware:优先接近配额重置时间的目标;lkgp:上次已知良好供应商的粘性路由;context-optimized:按上下文长度选择最佳模型;context-relay:为超长上下文串联多个模型。

auto 策略(推荐生产使用)会在每次请求时对候选目标按 9 个因素打分,适合在多个模型间自动平衡成本、延迟与可用性。

通过 MCP 使用时可用工具:omniroute_list_combos 列出组合、omniroute_switch_combo 启用/停用、omniroute_set_routing_strategy 运行时切换策略、omniroute_simulate_route 干跑路由决策、omniroute_best_combo_for_task 按任务类型给出推荐。

常见错误:404 组合不存在(核对 /api/combos 返回的 id);400 策略无效(需使用上述 14 种之一);409 名称冲突(组合名已存在)。