SuperAPI AI 工具集

model-routing

智能体与模型

查看项目

更新于 10-28 19:40

技能介绍

Model Routing 是 godmode 体系中的一项技能,用于在一次多代理运行中为每个“席位”(实现者、审查者、调查者、负责人等)分配模型与努力程度。资料指出,若不显式指定,派发会继承会话模型,通常是能力最强也最贵的模型,导致整个运行的成本控制悄然失效。

核心原则:为每个席位分配能以较少轮次完成工作的最便宜模型;每次派发都写明模型与努力程度;按证据升级而非默认升级。便宜以“每个已完成任务”的成本衡量,而不是每 token:一个需要三倍轮次或第二次尝试的便宜模型,成本高于一次完成的中档模型。

首要规则:没有指定模型与努力程度的派发不允许进行,没有例外。适用场景包括:每次子代理、队友、审查者或跨模型派发;代理报告 BLOCKED 或修复循环停滞时选择升级步骤;规划用户在意成本或配额的运行。不适用:当前会话中自己完成的工作,负责人保持会话模型。

三档模型:便宜档擅长转写完全指定的代码、单文件机械修改、搜索、摘要、分类、提取文本;弱于从散文描述进行多步工作、需要判断的工作,往往需要更多轮次。中档擅长从散文任务实现、多文件集成、逐任务审查、有明确复现的调试;弱于架构、微妙的并发、超大 diff。顶级档擅长架构、设计权衡、最终整分支审查、中档失败后的升级、对抗性审查;质量上无短板,但用于批量工作会浪费预算。在有努力或推理设置的 harness 中,也按席位设置努力程度:转写和搜索用低,常规实现和任务审查用中,架构、最终审查和升级用高;最高设置留给已在高档失败的问题。

席位默认值:计划已固定签名与测试的实现者用便宜档低努力,任务涉及多文件或测试复杂时上调;以散文描述任务的实现者用中档中努力,需要设计判断或广泛代码库理解时上调,单文件且有精确规格时下调。批量同形编辑用便宜档低努力,编辑并非真正同形时上调。任务审查者用中档中努力(审查者的下限),diff 涉及并发、安全、数据迁移等微妙问题时上调,永不低于中档。小修复的限定范围复审用中档低努力,修复比发现所暗示的更大时上调,永不低于中档。最终整分支审查用顶级高档,不降级。第 4-5 轮修复的实现者用比卡住实现者高一档。为负责人做批量阅读、搜索、摘要用便宜档低努力,摘要需要判断时上调。诊断中的调查者用中档中努力,假设空间大或对抗性时上调。跨模型审查者用另一家族最强且负担得起的模型。负责人/控制器使用会话模型。

协议:按上表分类席位,读取任务复杂度信号(文件数量、是否给出精确代码、是否需要设计判断、变更风险);从席位默认值出发,应用升降级列;实现时若在两档之间犹豫,选较高档,因为一次便宜失败加一次重试的成本高于一次中档成功;在派发中写明档位与努力,借助 harness 参考把档位翻译为该 harness 接受的模型名与努力设置,若 harness 无法按派发设置模型,在账本中说明一次并注明每个席位都运行在会话模型上;负责人保持会话模型且保持轻量,只做协调、裁决和读取短回复,不读取整个目录或长日志,批量阅读交给便宜档代理返回摘要或写文件。

升级阶梯按证据一次一级:同一模型加更多上下文(代理说 NEEDS_CONTEXT 或简报缺少事实);同一模型缩小任务;升一档、新代理、携带已尝试内容的报告文件;顶级档高努力;换不同模型家族,或由负责人裁决,或在四种停止条件之一时由用户裁决。绝不用相同简报原样重试同一模型。优先选择最便宜的執行模式:直接工作,然后 inline-execution,然后 delegated-execution 或 parallel-execution,最后 team-orchestration;每个队友都是独立完整实例,token 用量随之增长,只有队友必须中途协调时才组队。

在账本中记录成本:每个任务一行 Cost:,写明各席位的档位、努力和派发次数;harness 报告 token 或成本数据时补充数字;最后按席位汇总,让用户看到运行花在哪里,并注明下次应调整档位的席位。尊重配额:若用户按订阅限制运行(滚动窗口、每周上限),在大规模扇出前检查 harness 暴露的剩余额度,优先选择更少但简报更好的代理。

档位错误的信号:太低表现为多轮阅读无进展、在更强模型看来常规的任务上 BLOCKED、审查发现误解需求、修复循环到第 3 轮;太高表现为顶级模型转写给定代码、顶级审查者审十行重命名、负责人自己读每个文件。任一信号都应记为账本备注,使下次计划从更好的默认值开始。

认知陷阱:认为默认模型就行、跳过指定——默认通常是会话中最贵的模型,必须指定;认为处处最便宜最省——便宜模型轮次更多、散文任务更易失败,应按每完成任务成本计算;认为全用顶级最安全——多数实现只是转写,顶级档应花在需要判断处;认为审查者可以便宜——审查者是关口,中档是下限;认为失败就再跑一次——原样重试买来同样失败,应改变上下文、规模或档位;认为组队更快——组队更贵,只有队友必须中途沟通时才更快;认为负责人自己读代码库更快——负责人的上下文是最稀缺资源,批量阅读应交给便宜档。

护栏:绝不无模型无努力派发;绝不凭记忆硬编码模型名,应使用 harness 参考;绝不把最终整分支审查放在顶级档以下;绝不在没有记录原因的情况下一次升超过一级;子代理够用时绝不组队。始终:每个任务在账本写一行 Cost:;负责人保持会话模型且不批量阅读;每次升级携带上一次尝试的报告文件。该技能与使用 godmode 选择执行模式、委派/内联/并行执行、团队编排、代理简报和跨模型审查等技能相连,每次派发都应用本技能。