用途:在 OpenRouter 上配置自动模型回退,构建能承受提供商故障的高可用系统。
主要能力:支持服务端原生模型回退(传入 models 数组并设置 route: "fallback",按顺序尝试直到成功);支持提供商回退(用 provider.order 指定同一模型的不同提供商顺序,allow_fallbacks 控制是否继续回退);支持客户端回退链(resilient_completion() 按 primary→secondary→budget-fallback→last-resort 依次尝试,全部失败后抛出异常);支持按能力匹配回退链(CAPABILITY_CHAINS 区分工具调用、视觉、长上下文、预算等场景);支持每模型独立超时与错误处理。
使用方式:需 OpenRouter API 密钥(sk-or-v1-...)并导出为 OPENROUTER_API_KEY;Python 3.8+ 与 OpenAI SDK(pip install openai),测试步骤需 curl 和 jq。每次调用后记录 response.model 以确认实际服务的模型。可用 curl 将无效模型置于首位来验证回退是否生效。
适用场景:需要跨提供商容错的生产系统、对工具调用/视觉/长上下文有明确能力要求的负载、需要控制成本与超时的多级回退。
限制:资料未提供具体价格、性能数据或平台支持范围;回退模型能力不一致可能导致功能静默降级,需按能力匹配;级联超时可能拖慢响应,建议将单模型超时降至 10-15 秒;全部回退失败时应触发告警。