用途:为机器学习与 LLM 项目提供系统化的模型评估代码模式,覆盖分类指标、概率校准、分片评估、公平性度量以及生成式输出评估,帮助判断模型是否真正可信,而非只看单一准确率。
主要能力:
- 完整分类评估报告:一次评估算 accuracy、F1-macro/weighted、MCC、AUC-ROC、AUC-PR、Brier score,并用 bootstrap(默认 1000 次)给出 95% 置信区间与每类指标。
- 校准分析:用 calibration_curve 与 ECE 判断概率是否反映真实频率,按 ECE 分为 well-calibrated(<0.05)、acceptable(<0.10)、poorly-calibrated;可用 CalibratedClassifierCV 以 sigmoid(Platt)或 isotonic 重新校准。
- 分片评估:按用户分群、设备、国家等分组计算加权 F1 与 AUC,标记相对整体下降超过 0.05 且样本量足够的关注分片。
- 公平性指标:用 fairlearn 计算 demographic parity difference/ratio 与 equalized odds difference,并按组输出 accuracy、F1、selection rate。
- LLM 评估:用 evaluate 计算 BLEU、ROUGE、BERTScore(默认 microsoft/deberta-xlarge-mnli),用 ragas 计算 faithfulness、answer_relevancy、context_recall、context_precision。
使用方式:直接复制各 Pattern 的 Python 函数到评估脚本,导入 numpy、pandas、scikit-learn、scipy、matplotlib、fairlearn、evaluate、ragas、datasets 后调用,例如 full_evaluation_report(y_test, y_pred, y_proba_test, label_names=["neg","pos"])。
适用场景:二分类与多分类质量评估、概率阈值决策前的校准检查、上线前的分片与公平性审计、RAG 与生成任务的自动评估。
限制:文档以代码模式为主,未提供安装命令、依赖版本、许可或收费信息,暂未提供;公平性阈值 0.10 与分片最小样本 50 为示例默认值,需按业务调整;AUC 类指标在单类别分片中无法计算。