用途\nomni-combos-routing 用于在 OmniRoute 中创建和管理路由组合(combo)。组合是一组带路由策略的提供商/模型集合;请求通过组合自动分发、故障转移和负载均衡,调用方只用一个模型 ID(如 my-combo)即可。\n\n主要能力\n- 管理组合:列出、创建、按 ID 查询、部分更新(PUT/PATCH 合并字段,传入数组会整体替换)、删除。\n- 组合辅助操作:自动组合、构建器选项、复制组合、重排序。\n- 19 种路由策略:priority、weighted、round-robin、context-relay、fill-first、p2c、random、least-used、cost-optimized、reset-aware、reset-window、headroom、strict-random、auto(按 16 个因素评分)、lkgp、context-optimized、cache-optimized、fusion、pipeline。\n- 回退链:列出、创建、删除模型路由的回退链。\n- 测试与模拟:测试组合配置;模拟路由(dry run)返回会选中哪个提供商及原因,不发起真实 API 调用。\n- 指标:获取组合整体或按目标的延迟、成功率、成本与分解统计。\n- 启停:通过 toggle 接口激活或停用组合。\n- MCP 调用:列出组合、启停组合、运行时切换策略、模拟路由、按任务类型推荐组合。\n\n使用方式\n所有请求需 Bearer Token 或会话 Cookie;可通过 POST /api/auth/login 获取令牌,或在本地开发时设置 REQUIRE_API_KEY=false。需要环境变量 OMNIROUTE_URL 与 OMNIROUTE_KEY。创建组合示例:POST /api/combos,传入 name、strategy、targets(含 provider、model、weight 等字段);随后以该组合名作为 model 调用 /v1/chat/completions。更新为部分更新,未传字段保留原值,传入的数组整体替换。\n\n适用场景\n需要在多个模型提供商之间做优先级、加权、轮询、成本优化、上下文优化、缓存亲和或自动评分路由,并希望统一入口、故障转移与可观测指标的场景。\n\n限制\n错误码:404 表示组合不存在,400 表示无效策略,409 表示名称冲突。详细请求/响应模式见 GET /api/openapi/spec 或 docs/openapi.yaml。除上述内容外,更多计费、平台支持等信息暂未提供。
omni-combos-routing
智能体与模型
更新于 10-22 16:04