用途:系统衡量 LLM 应用表现,比较模型或提示词、检测部署前性能回退、验证提示词改进、建立并跟踪基线、调试异常行为。
主要能力:自动指标包括文本生成的 BLEU、ROUGE、METEOR、BERTScore、Perplexity,分类的准确率、精确率/召回率/F1、混淆矩阵、AUC-ROC,以及 RAG 检索的 MRR、NDCG、Precision@K、Recall@K;人工评估可从准确性、连贯性、相关性、流畅性、安全性、有用性打分并计算标注者一致性(Cohen's kappa);LLM-as-Judge 支持单点打分、成对比较、有参考和无参考模式;另含 A/B 统计检验(t 检验、Cohen's d)与回归检测。
使用方式:在测试用例上定义指标套件并运行评估;示例接口 llm_eval 为伪代码,需按项目实际依赖调整并验证;文档提供 BLEU、ROUGE、BERTScore、LLM 评审、A/B 测试和回归检测的代码片段作为模式参考,不要原样照抄旧版供应商调用。
适用场景:自动化指标、人工评估、LLM 评审、A/B 测试、回归检测、基准测试。
限制:仅适用于 LLM 评估相关任务;本地基准是示意运行器,非已安装框架或数据集;模型下载、托管推理、付费评审调用与遥测导出需数据与成本授权;优先使用已缓存模型;提示词不能作为安全边界;评审分数需用人工标注样本校准;重叠度分数不能证明正确性、安全性或生产就绪;需对数据消毒并设定评估预算。若缺少输入、权限、安全边界或成功标准,应停止并请求澄清。