SuperAPI AI 工具集

regression-evals

智能体与模型

查看项目

更新于 10-15 23:49

技能介绍

用途:为生产环境中的 AI 功能建立持续回归评估,在提示词修改、模型升级或工具调整时捕捉行为退化,并通过门禁阻止有问题的合并。

主要能力:维护带版本的评估数据集;对基线与候选分别运行评估;按分层(stratum)比较指标并做显著性检验;用阈值门禁合并;将评估报告发布为 PR 评论;对模型升级做金丝雀发布。

核心流程:1) 维护版本化评估数据集;2) 每次变更在基线与候选上运行评估;3) 按分层比较指标并做显著性检验;4) 若某分层退化超过阈值则阻止合并。

显著性检验:小样本上的小幅下降可能是噪声,建议用 bootstrap 置信区间;通过/失败指标用 McNemar 检验,标量用配对 bootstrap。

阈值示例:任一分层下降≥3% 且 p<0.05 阻止合并;总体下降≥5% 且 p<0.05 阻止合并;单项从通过变失败需调查,通常阻止;置信区间显著变宽需调查。1-3% 下降为警告,需人工复核。

CI 集成:在 pull_request 触发的工作流中依次运行基线、候选与比较脚本,并上传评估报告工件,将报告作为 PR 评论发布。

基线管理:基线应作为真实存储的工件,按(提示词版本、模型、数据集版本)键存储;合并变更后更新基线。

限制与注意事项:部分评估项即使温度为 0 也不确定,可标记为 flaky、多次运行取多数票或修复评估项;避免告警疲劳,可将小幅漂移标为需复核而非阻止;出现真实退化时不要降低阈值、删除失败分层或跳过紧急 PR 的评估。资料未提供具体安装命令与价格信息。