用途:在 OpenRouter 上构建生产级模型选择规则引擎,按用户层级、任务类型、剩余预算、工具/视觉需求与延迟 SLA 决定使用哪个模型,并支持回退链与规则热加载。
主要能力:以 RoutingContext 描述每次请求的元数据(user_tier、task_type、budget_remaining、needs_tools、needs_vision、max_latency_ms);以 RoutingRule 按 priority 升序定义规则,首个匹配者生效,条件异常返回 False;evaluate_rules(ctx) 解析胜出规则;routed_completion() 应用规则模型、fallbacks(models + route: "fallback")与 max_tokens,并返回含 rule 字段的结果便于审计;支持 JSON 配置规则与 match_config_rule() 热加载;ab_test_routing() 可将一定比例流量路由到变体 B 做对比。
使用方式:需 OpenRouter API key(sk-or-v1-...)并导出为 OPENROUTER_API_KEY,Python 3.8+ 与 OpenAI SDK,base_url 设为 https://openrouter.ai/api/v1。规则按优先级排列,务必包含 priority=99 的默认兜底规则;若使用预算条件规则需先接入预算跟踪。
适用场景:多层级用户的产品、成本敏感型服务、需要工具调用或图像输入的任务、延迟敏感请求、以及规则变更的灰度验证。
限制:资料未提供具体价格、性能数据或平台支持范围;规则条件错误需自行 try/catch 处理;配置需在启动时校验,避免解析错误。