用途:为 LLM 应用搭建系统化、可重复的评测框架,覆盖用例定义、打分、阈值判定与回归对比。
主要能力:
- 黄金数据集格式:每条用例含 id、category、input、expected_output、rubric 与 metadata(如 difficulty、tags);
- 多种评分函数:精确匹配 score_exact_match、语义相似度 score_semantic_similarity、关键词覆盖 score_contains_keywords、以及 LLM 作为裁判的 score_with_llm;
- 测试运行器 EvaluationHarness:加载数据集后对模型函数逐条生成输出并打分,记录 test_id、category、scores、passed 与实际输出,最后生成报告;
- 阈值与通过标准:可按 category 定义各指标最低分,如 code_generation 要求 correctness 0.9、style 0.7;
- 回归报告:对比 baseline 与当前结果,分类为 regressions、improvements、unchanged,并输出汇总统计;
- 持续评测:在每次提交或 CI 中运行,检测到回归即失败退出(如检测到回归则 sys.exit(1))。
使用方式:先准备黄金数据集 JSON,定义评分函数与各分类阈值,实例化 EvaluationHarness 并调用 run_evaluation(model_fn),再将结果与基线对比生成回归报告;可在 CI 中集成以尽早发现质量下降。
适用场景:LLM 输出质量评测、提示词或模型变更后的回归测试、分类与摘要等任务的通过标准管理。
最佳实践(来自资料):数据集覆盖边界情况、多种指标并用、人工复核 LLM 裁判分数、对数据集做版本管理、CI 自动化、定期补充新用例。
限制:资料未提供具体安装命令、依赖库、支持的模型或平台、收费与价格信息;示例中的 get_embedding、cosine_similarity、llm 等为需自行实现的接口。