SuperAPI AI 工具集

advisor-call-budget

通用与其它

查看项目

更新于 10-16 01:35

技能介绍

用途:在采用“廉价执行模型执行、昂贵顾问模型偶尔咨询”的顾问模式时,把节省从假设变为可执行约束,防止顾问调用失控侵蚀折扣。

主要能力:为任务设置 max_advisor_calls 硬上限;设置 drift_check_every_n_steps,使执行模型在超过该步数后必须重新获得顾问检查,限制其偏离建议的程度;运行后记录 advisor_calls_actual,按实际调用比例计算有效成本,并与基准假设的调用率对比,说明真实折扣小多少。

使用方式:先按当前定价页(不要凭记忆)写下执行模型与顾问模型的 usd_per_mtok_out;再设定上限与漂移检查间隔;运行后记录实际顾问调用次数并计算有效成本。资料给出的验证脚本会读取 advisor-task.json,检查是否缺少上限、缺少漂移检查、未记录实际调用数,或实际调用数超出上限,并输出有效成本占纯顾问费率的百分比。

适用场景:难度集中在少数分叉点的困难多步任务。限制:若难度均匀分布,每次任务一次检查会漏掉漂移,不应使用该模式;任务简单时直接只用廉价模型;不要把基准折扣(如 63%)当作自身数字;不要让规划者给自己的计划打分,正确性关键处应加入客观检查(测试、schema、已知答案)。