SuperAPI AI 工具集

ai-eval-plan

设计与创作

查看项目

更新于 10-16 06:48

技能介绍

用途:在发布 LLM 或 AI 功能前,为其设计一份评估计划,把模糊的质量目标变成可重复、带门槛的测试,避免让悄悄使输出变差的提示词改动上线。

必要输入(未提供时需询问):功能与任务(模型做什么、对用户而言“好输出”是什么);关键失败模式(幻觉、格式错误、不安全、语气不符、过慢等);可用数据(真实样例、日志或标注案例,或说明暂无);由谁评判质量(自动检查、LLM 评判、人工评分或混合);该评估所把关的决策(发布与否、模型选择或提示词迭代)。

输出格式:评估计划包含六部分。1. 衡量什么:任务,以及好/坏回答的一句话定义。2. 评估数据集:案例数量、来源(真实日志优于合成)、划分(冒烟集与全集);覆盖必须包含的切片/场景(边界、对抗、各主要输入类型);是否有黄金答案/参考及其创建方式。3. 指标与评分标准:按维度打分,每个维度用明确的 1–5 分锚点描述(如正确性、依据性、格式、安全、语气);自动检查优先用确定性断言(合法 JSON、含必需字段、无 PII、延迟预算);LLM 作为评判者时给出评判提示词、所用评分标准,并在样本上与人工标签校准以防范偏差;人工评估用于安全或主观质量场景,并给出评分者说明。4. 基线:每个候选与当前提示词、上一模型或纯提示词对照组的比较。5. 门槛:明确的发布阈值(如平均正确性 ≥4.2、0 次安全失败、p95 < 3s)及未达标时的处理。6. 回归门禁:如何在 CI 中随每次改动运行,以及阻止合并的分数下降阈值。

质量检查:每个指标都有带锚点的明确评分标准;尽可能先用确定性/自动检查再用 LLM 评判;LLM 评判至少在样本上与人工标签校准;评估集包含对抗与边界案例;发布决策有单一明确的数值门槛;计划说明如何作为回归门禁运行而非一次性检查。

反模式:不要依赖单一总分;不要信任未经人工校准的 LLM 评判;不要只评估顺利路径;不要让评估集泄漏进提示词/少样本示例;不要在看过分数后才定义通过门槛。

适用场景:被问及如何评估提示词/模型/智能体、搭建评估工具、为 AI 功能定义质量指标或构建回归门禁时。限制:资料未提供具体实现代码、平台或收费信息。