SuperAPI AI 工具集

devtu-benchmark-harness

测试与质量

查看项目

更新于 10-16 01:16

技能介绍

用途:为 ToolUniverse 的工具、技能与插件提供持续改进的基准测试框架,形成“运行基准→分析结果→诊断失败→通过 devtu 技能修复→重测”的 5 步反馈循环。该技能与数据集无关,单基准的分数历史、已知失败题目 ID 等应放在 temp_docs_and_tests/benchmark_tracking/ 工作目录,而非技能目录内。

主要能力:提供编排脚本 run_harness_loop.sh,一条命令完成记忆审计、构建、运行、分析、诊断与失败提取;run_eval.py 支持 bixbench、lab-bench、custom 基准,可选 plugin-only、baseline-only、comparison 模式,支持 --category 过滤、--resume 续跑、--guidance 注入;analyze_results.py 按技能、类别、失败类型汇总并给出诊断建议;grade_answers.py 依次应用精确匹配、选择题匹配、范围匹配、归一化匹配、数值接近、同义词匹配与 LLM 验证 7 种评分策略,并做 Unicode 归一化。

使用方式:首次需安装 R 包并下载 BixBench 数据;运行示例:bash skills/devtu-benchmark-harness/scripts/run_harness_loop.sh --benchmark bixbench --n 20 --seed 42,重测用 --retest /path/to/failures.json。接受任何技能编辑前运行 python3 skills/devtu-benchmark-harness/scripts/check_memorization.py --all,防止技能包含基准名、capsule UUID、bix-N 题号或特定数值答案;--strict 模式还会标记基因名与数据集文件名。修复应通过 devtu-fix-tool、devtu-create-tool、devtu-optimize-skills、devtu-self-evolve 等技能完成,不手动修改。

适用场景:评估 ToolUniverse 插件在计算生物学类基准上的正确性与技能路由可靠性;APPEND_CONVENTIONS=1 模式用于测量约定正确性,默认模式测量技能路由可靠性。

限制:插件采用仅路由器的技能匹配,1 个可自动匹配技能路由到 113 个子技能;-p 模式下技能不自动匹配,基准运行器通过 full_skill_injection 模拟交互行为。已知失败模式包括 DESeq2、ANOVA、样条、系统发育、变异分析、enrichGO 等错误及超时与 GT 问题。具体收费、价格与平台支持暂未提供。