SuperAPI AI 工具集

reasoning-effort-throttle

智能体与模型

查看项目

更新于 10-16 09:34

技能介绍

用途:为运行推理模型的智能体设定合理的默认推理努力,只在必要时按任务升级,从而控制输出 token 成本。资料指出推理努力主要消耗输出 token,而输出 token 通常更贵,因此努力旋钮常是最大的成本杠杆,甚至比换模型更有效。

主要能力:确认运行环境是否支持按任务控制 effort;设定比用户此前常用档位低一档的默认值;定义明确的升级规则(如首次尝试失败、用户标记为困难的任务、不可逆步骤),其余任务使用默认档。

使用方式:以 Hermes 为例,其级别包括 none、minimal、low、medium、high、xhigh,可用 /reasoning xhigh 在运行时切换,无需重启。参考配置(截至 2026-06)使用 OpenRouter 上的 DeepSeek V4 Flash,输入 $0.098/M、输出 $0.196/M,默认 high,保留 xhigh 给确实需要的回合。提供 verify 命令验证配置可解析且 effort 级别被环境接受,避免拼写错误导致静默回退。一周后检查各 effort 级别下输出 token 占账单比例,若 xhigh 流量超过约 10-20%,需判断是任务确实困难还是升级规则过松。

限制:节省依赖工作负载,仅适合大部分为简单回合、偶尔困难的场景;若负载整体困难,强行节流会以质量损失换取成本。排行榜中名为 Max 与 High 的条目常是同一模型的不同 effort 设置,并非不同模型。CI 式验证只证明配置正确,不代表真实花费,唯一可信的节省数字来自同一负载下前后账单对比。平台与模型价格需自行核实。