用途:面向已部署或即将上线的 RAG 系统,提供质量监控与自动化评估能力,用于调试幻觉或相关性回退、构建 RAG 专属黄金信号看板、为流水线变更设置质量门禁。
主要能力:检索质量方面测量 Recall@k、MRR、NDCG@k、引用覆盖率、来源新鲜度、嵌入漂移与索引陈旧度;生成质量方面测量接地性分数、按路由/用例的幻觉率、指令遵循与格式有效性;可靠性与成本方面测量按检索与生成拆分的 p50/p95 延迟、各阶段 token 用量、缓存命中率与单次成功回答成本。提供 RAGAS 评估脚本、接地性打分脚本、检索指标计算脚本、Prometheus 指标导出、评估流水线、告警规则与故障排查表。
使用方式:前置条件为已插桩检索与生成阶段的 RAG 流水线、Python 3.10+ 及 ragas/langchain/openai 等评估库、Prometheus 端点、含标准问答源三元组的基准数据集、集成 OpenTelemetry SDK。典型流程为整理基准集、对每种检索器/模型配置运行夜间离线评估、对采样生产流量做在线影子评估、按质量与安全及延迟阈值卡发布。
适用场景:RAG 生产质量监控、检索与生成自动化评估、幻觉与相关性回退排查、RAG 看板与告警建设、变更质量门禁。
限制:具体阈值、模型与部署细节需按自身环境调整;资料未提供官方收费、价格与平台支持信息。