用途:当被问到“该用哪个模型”“是否要升级或降级模型”时,该技能帮助在质量、成本、延迟和约束之间做出明确、可辩护的取舍,而不是简单选最大或最便宜的模型。核心思路是:选能通过任务质量门槛的最小模型,并为困难案例保留升级路径。
主要能力:根据任务简报推断任务难度、请求量和延迟敏感度,标注假设后直接给出具体推荐,而非只回答“看情况”;按小/快、均衡、前沿三个层级比较候选模型,从质量、延迟、相对成本、适配度打分;给出默认层级及改变该选择的唯一条件;设计“默认走便宜层级、检测低置信或困难案例再升级”的路由策略;并建议用小规模评测集按层级打分,结合真实请求量估算成本与延迟。
使用方式:若未提供,需询问或推断以下输入——任务内容与示例输入输出、质量门槛与错误代价、每日请求量与延迟要求(交互式或批处理)、预算、上下文长度、工具调用、隐私/地区、输出是否需可复现。输出格式包含决策标准排序、选项对比表、一句话推荐、路由策略和验证方法。
适用场景:为摘要、抽取、推理、开放式生成等任务选型;评估是否升级或降级模型;设计分层路由与升级机制。
限制:资料未提供具体模型名称、价格、平台或性能数据;建议按层级而非硬编码单一模型,以免随模型发布而过时。避免默认选最大模型、只看价格、无评测就推荐、忽略长尾困难案例。