SuperAPI AI 工具集

skill-evaluator

测试与质量

查看项目

更新于 10-24 16:19

技能介绍

Skill Evaluator 是一个用于评估 Agent Skill 的评估方法类技能。其核心主张是:从证据出发判断 Skill,而不是根据外观整洁度或自信程度下结论。

用途 该技能面向需要系统验证 Skill 是否真正可用的开发者。资料指出,开发者常通过阅读 Skill 就假设其可用,或只跑一个临时提示词就宣布成功;缺少带留出集的多维系统评估,回归风险和边缘用例失败往往直到部署才暴露。目标状态是通过可证伪的二元断言,覆盖激活、遵循、抗压与可移植性,并进行独立的修改前后评分。

证据状态 每个结果必须是以下之一:OBSERVED(由已执行运行产生)、DERIVED(由观察证据确定性计算)、INFERRED(从静态材料推理)、PROPOSED(测试尚未执行)。不得把 PROPOSED 或 INFERRED 转为通过。

评估维度 独立评估:Discovery(正确激活与不激活)、Clarity(指令导向明确的重要行为)、Structure(上下文放置与加载是否恰当)、Robustness(边缘用例与压力下行为是否存活)、Completeness(关键前置条件、门禁、证据、失败与完成条件是否存在)、Outcome(结果是否真正满足用户任务)、Efficiency(是否增加不必要的工作或上下文)、Portability(宿主声明是否与已测试或结构验证的能力一致)。在适用时使用 ../skill-conductor/references/quality-questions.md 中的 BinEval 问题与 ../skill-conductor/references/bineval-method.md 的方法规则。

使用方式(步骤概述)

  1. 冻结候选:在测试前记录确切的 Skill 版本或内容哈希,收集基线结果期间不编辑候选。
  2. 构建测试库:包含正向激活、隐式激活、接近的负例、冲突用例、核心行为用例、边缘用例、失败路径用例、纪律规则的压力用例、既往修复失败的回归用例,以及每个声称已测试宿主的宿主特定用例;关键行为必须有明确的二元断言。
  3. 建立基线:CREATE 时在可执行情况下使用相同提示但不加载 Skill;IMPROVE 时使用冻结的父版本;比较用例应在时间和环境上足够接近以减少漂移;无法隔离时披露限制。
  4. 执行并取证:使用活动宿主的真实执行能力,至少捕获提示、Skill 版本、已知时的宿主/模型、输出、相关工具证据、断言结果、失败说明、暴露时的计时/token 数据;不得编造不可用遥测。
  5. 判定前先批判:对每个二元问题引用相关证据、简要解释失败或成功,然后才给是/否;尽量对逐题评判者隐藏总体门禁,避免阈值知识偏置答案。
  6. 运行压力测试:阅读 ../skill-conductor/references/pressure-testing.md,针对脆弱规则构造带有竞争激励的场景(如速度、用户坚持、歧义、既有投入、便利或看似无害的例外),修复形式与失败类别匹配。
  7. 控制方差:不要把一次噪声翻转当作持久改进;重要临界用例在新上下文中复现;候选编辑需对留出用例做回归检查。
  8. 门禁改进:仅当没有新的关键失败、留出断言没有可复现回归、目标训练失败有所改善、编辑未产生新的激活冲突时接受候选改进;每轮优先最多三个原子编辑以保持因果可归因。
  9. 必要时盲比版本:大改动时将输出去掉版本标签以 A/B 形式呈现给比较者,对两者判断相同二元结果问题,判定后再揭盲。

输出契约 返回:确切候选标识、执行覆盖、未执行覆盖、各维度结果、关键失败、激活误报/漏报、回归变化、方差警告、证据支持时的接受/拒绝改进判定、下一步最小编辑目标。未执行行为测试时使用状态 STRUCTURAL_ONLY。

适用场景与限制 适用于 Skill 的创建验证与改进评估、激活行为测试、规则抗压测试和版本回归比较。限制包括:需要真实执行能力与证据采集;无法隔离环境时只能披露限制;不得编造遥测数据;未执行行为测试时只能给出 STRUCTURAL_ONLY 的结构性结论。