SuperAPI AI 工具集

benchmark-framework

写作与研究

查看项目

更新于 10-15 23:46

技能介绍

这是一个面向认知推理模式的 A/B/C 测试框架,目标是用经验数据判断哪种推理方法在不同问题类别上表现最好,而不是依赖启发式选择。

用途:比较不同推理模式(如 ToT、BoT、SRC、HE、AR、DR、AT、RTR、NDF)的质量、成本与时间取舍,并跟踪长期改进。

主要能力:

  1. 问题集组织:按优化、探索、诊断、安全、权衡、新颖、时间紧迫、利益相关方等类别分目录,每个类别再按 easy/medium/hard 划分。
  2. 问题定义模式:problem-template.yaml 包含 problem_id、domain、difficulty、title、description、context(约束与资源)、evaluation_criteria(含 criterion、weight、rubric)、ground_truth 与 tags。
  3. 指标框架:质量分(0-100 加权)、置信度、Token 成本、执行时间、正确性、完整性、人类偏好等;另有每质量点 Token/时间与每分钟质量等效率指标。
  4. 置信度校准:按置信度分箱比较实际质量,样本少于 10 时返回 None。
  5. A/B/C 实验设计:定义假设、基线、条件、问题集、随机种子、温度与时长控制,并覆盖顺序效应与评估者偏差控制。
  6. 统计要求:双尾 t 检验、ANOVA+Tukey HSD、配对 t 检验、符号检验,以及按效应量估算最小样本量。
  7. 运行流程:异步 run_abc_test 按配置加载问题、随机化、逐条件运行并收集指标,最后做统计分析。
  8. 类别预期表现与性能矩阵报告。

使用方式:依据提供的 problem-template.yaml 编写问题,配置 experiment 的 conditions、problem_set、randomization 与 controls,再运行 run_abc_test 收集结果。文中给出的 calculate_quality_score、EfficiencyMetrics.calculate、calibration_score、required_sample_size 等函数与代码示例应保持原样使用。

适用场景:需要数据驱动选择推理模式、量化质量-成本-时间取舍、跨问题类别比较方法效果的研究或工程评估。

限制:具体安装方式、依赖、收费与平台信息暂未提供。