用途:在 routerbase 的统一 OpenAI 兼容集成表面下规划模型选择。当需要为聊天、代码、推理、视觉或多模态工作负载挑选 RouterBase 模型,设计供应商故障或质量下降时的 fallback 链路,在成本、延迟、上下文长度、输出质量与可用性之间取舍,为生产应用或 Agent 工作流编写路由规则,或制定上线前验证计划时使用。
主要能力:将工作负载需求转化为模型候选清单、fallback 链路、成本与延迟策略及上线前验证清单;按角色整理候选模型,包括主模型、经济型 fallback、高质量 fallback 和专项 fallback;标注路由假设,并把需要查验当前目录或价格的数据单独标记;推荐小步上线流程,涵盖测试提示词、golden case、日志、重试策略、限流处理和回滚条件;示例尽量保持 OpenAI 兼容,便于应用集成迁移。
使用方式:先明确工作负载类型、质量阈值、延迟预算、上下文大小、预期流量和失败容忍度,再据此组织候选模型与 fallback 链路,并给出验证与上线步骤。
限制:不应在未查验当前来源数据的情况下断言精确价格、可用性或模型表现;不应不说明假设和 fallback 行为就只推荐单一模型;不应在应用负责人或生产运维人员不知情的情况下隐藏路由变更。具体价格、可用性与模型表现等事实资料暂未提供。