SuperAPI AI 工具集

rag-evaluation

智能体与模型

查看项目

更新于 10-15 23:49

技能介绍

用途:评估 RAG(检索增强生成)系统的质量,衡量检索质量、答案忠实度与端到端性能,适合在开发与上线前对 RAG 流水线做基准测试。

主要能力:给出关键指标及参考阈值,包括 Context Precision(>0.8)、Context Recall(>0.7)、Faithfulness(>0.9)、Answer Relevancy(>0.8)、Answer Correctness(>0.8)。以 RAGAS 为评估标准,安装命令为 pip install ragas langchain_openai。可构建评估数据集,每条测试用例包含 question、answer、contexts、ground_truth,并用 Dataset.from_dict 组织。通过 evaluate 传入 faithfulness、answer_relevancy、context_precision、context_recall 等指标及 llm、embeddings 运行评估,结果可 to_pandas 查看逐题明细。

自定义指标:提供检索命中率 calculate_hit_rate(top-k 内是否含相关文档)与 MRR calculate_mrr(相关文档排名倒数均值),以及用 time.perf_counter 测量检索延迟、生成延迟、总延迟、文档数与生成 token 数。还给出 RAGTestSuite 组合 RAGAS 指标、检索指标、延迟指标与失败分析,失败可分类为 generation_failure 或 retrieval_failure。

使用方式与最佳实践:构建 50-100 条人工校验的黄金问答集;测试空结果、歧义查询、域外问题等边界情况;在 CI/CD 中自动化评估;长期跟踪指标趋势;按查询类型分段评估。生产环境可记录查询、文档数、延迟与答案长度做持续监控。

限制:资料未提供具体收费、价格、平台支持范围与效果保证;指标阈值仅为参考,实际需结合业务调整。