SuperAPI AI 工具集

evals-validate

测试与质量

查看项目

更新于 10-16 01:24

技能介绍

用途:在已实现评估系统后,按 EDD 原则进行生产就绪性验证,覆盖统计分析、性能校验与质量保证。主要能力:一是统计验证,计算 TPR/TNR、准确率与 95% 置信区间;二是性能验证,检查评估金字塔各层的 SLA 合规(Tier 1 快于 30 秒,Tier 2 快于 5 分钟)并做余量分析;三是质量保证,检查金标集完整性、样本平衡与覆盖度;四是留存集验证,在保留测试集上做无偏准确率评估;完成后自动交接给 /evals-analyze 做闭环轨迹分析。使用方式:参数支持 --holdout-only(仅在留存集验证)、--performance-only(跳过统计、专注 SLA)、--metrics METRICS(指定 tpr、tnr、accuracy、performance)。执行分五阶段:先直接运行底层框架 CLI,如 PromptFoo 用 npx promptfoo eval --config evals/promptfoo/config.js,DeepEval 用 pytest evals/deepeval/ -v 或 python evals/deepeval/config.py;再解析 evals/results/ 的结果 JSON 计算 TPR/TNR 与准确率;然后检查 Tier1/Tier2 耗时与 SLA 余量;随后将结果写入 evals/results/validation_report.md,含通过/失败计数、TPR/TNR 表、SLA 时间与留存集结果;最后触发 /evals-analyze。适用场景:在 /evals-implement 之后执行评估套件、在 CI/CD 流水线中作为发布门禁防回归、定期审计评分器在留存数据上的准确性以发现模型漂移。限制:评分器未生成时不能使用,应先运行 /evals-implement;若目的是分析失败轨迹,应改用 /evals-analyze;不应让 Likert 量表或数值评分泄漏进结果。其他收费、价格、平台与部署细节资料中暂未提供。