SuperAPI AI 工具集

llm-evaluation

测试与质量

查看项目

更新于 10-15 17:35

技能介绍

用途:系统性衡量 LLM 应用表现,对比不同模型或提示词,部署前检测性能回归,验证提示词改动带来的改进,并为生产系统建立基线与持续追踪。

主要能力:

  1. 自动化指标:文本生成可用 BLEU、ROUGE、METEOR、BERTScore、Perplexity;分类可用准确率、精确率/召回率/F1、混淆矩阵、AUC-ROC;RAG 检索可用 MRR、NDCG、Precision@K、Recall@K。
  2. 人工评估:从准确性、连贯性、相关性、流畅度、安全性、有用性等维度打分,并可计算评分者间一致性(如 Cohen's kappa)。
  3. LLM-as-judge:用更强模型评判输出,支持 pointwise、pairwise、基于参考答案、无参考、基于评分细则、基于原则等做法;需注意位置偏差、冗长偏差与自我偏好偏差,可用交换顺序取平均、结构化评分细则、引入第三方裁判来缓解。
  4. RAG 专项评估(RAGAS):faithfulness、answer_relevancy、context_precision、context_recall,分别用于检测幻觉、答非所问、检索无关与检索遗漏。
  5. 智能体任务评估:任务完成率、步骤效率、工具选择准确率、错误恢复、虚构工具调用等。
  6. A/B 测试与回归检测:用 t 检验、Cohen's d 等做统计显著性判断;按阈值检测指标相对基线的显著下降。
  7. 基准测试:在基准数据集上批量运行模型并计算指标。

使用方式:通过 EvaluationSuite 定义指标集合与测试用例后运行评估;也可单独调用 BLEU、ROUGE、BERTScore 或自定义指标函数;RAGAS 示例使用 from ragas import evaluate 与 from ragas.metrics import faithfulness, answer_relevancy, context_precision, context_recall,并用 datasets.Dataset 构造数据后调用 evaluate。

适用场景:模型与提示词选型、RAG 质量监控、智能体任务成功率衡量、结构化输出合规检查、生产部署前回归防护、A/B 实验分析。

限制:资料未提供具体安装命令、依赖版本、定价或平台信息;LLM-as-judge 存在偏差需缓解;部分自定义指标(如 factuality)仅给出思路未提供实现。