用途:系统化评估 LLM 输出,通过评分标准(rubric)衡量质量,处理模型输出的非确定性,并实现 LLM-as-judge 模式,适用于生产级 LLM 系统的质量保障。
主要能力:提供多维度评分标准设计(如准确性、完整性、清晰度、简洁性、格式,并带权重);处理非确定性的策略,包括多次运行取均值与方差、设置 temperature=0 与记录种子、配对比较与统计显著性;LLM-as-judge 模式,建议用更强模型作为评判者;测试用例设计,包含输入、预期行为、评分标准、可选标准答案与元数据。
使用方式:先定义评分标准,再创建测试用例,然后运行评估,例如 python evaluate.py --suite code-generation --runs 3,最后分析结果,关注低分维度、高方差用例与相对基线的回归。资料还提供模板与检查清单,如 rubric-template.yaml、test-case-template.yaml、llm-as-judge-guide.md、evaluation-setup-checklist.md。
适用场景:生产前测试新提示词、A/B 比较提示词变体、验证输出是否达到质量门槛、检测变更后的回归、构建评估数据集、实现自动化质量门禁。
限制:资料未提供具体安装命令、依赖环境、支持的模型或平台、收费与价格信息;评估效果依赖评分标准与测试用例质量,非确定性无法完全消除。