SuperAPI AI 工具集

loom-model-evaluation

数据与分析

查看项目

更新于 10-15 20:28

技能介绍

用途:这是位于 sklearn 与评估工具之上的决策层,帮助为模型评估选择正确的指标、验证方案与阈值,而不是替代具体评估库。

主要能力:按业务成本与类别不平衡选择指标(PR-AUC、F-beta、MCC、MAE、NDCG 等,避免在不平衡数据上用 accuracy);识别目标、预处理、时序、分组、重复与目标编码泄漏;按数据结构选择 StratifiedKFold、GroupKFold、TimeSeriesSplit 或嵌套交叉验证;用可靠性曲线、Brier 分数、ECE 诊断校准,并用 CalibratedClassifierCV 修正;按成本在验证集上选阈值;用学习曲线与验证曲线诊断过拟合/欠拟合;覆盖 LLM 评估(参考指标、LLM 判官偏差与缓解)与 A/B 测试(预注册样本量、SRM、防偷看);涉及公平性定义与生产漂移监测。

使用方式:资料给出示例代码,如 make_pipeline(StandardScaler(), estimator) 配合 cross_validate 完成无泄漏交叉验证,用 average_precision_score 计算 PR-AUC、matthews_corrcoef 计算 MCC,用 ks_2samp 与 PSI 监测数据漂移。具体安装命令与调用方式暂未提供。

适用场景:不平衡分类、代价不对称决策、时序与分组数据、需要概率输出的模型、生成式模型与线上实验评估。

限制:文中出现的具体阈值(如 PSI>0.2 表示显著漂移)为经验参考;公平性各定义通常无法同时满足;是否适配特定数据需自行验证。其他细节暂未提供。