用途:在模型训练完成后系统评估性能、比较不同模型或算法、诊断过拟合与欠拟合、调优超参数、选择与业务目标匹配的指标、跟踪可复现实验,以及部署前的生产就绪检查。不适用于特征工程与预处理、探索性数据分析、构建交互式数据应用或笔记本环境搭建。
主要能力与工具:交叉验证默认用 sklearn.model_selection,支持标准 K-Fold、分层、时间序列与分组策略;分类指标用 sklearn.metrics(准确率、精确率、召回率、F1、ROC-AUC、PR-AUC),回归指标用 MAE、RMSE、R²、MAPE;超参数调优默认 Optuna(贝叶斯优化带剪枝),大规模分布式搜索用 Ray Tune;实验跟踪用 MLflow(开源、含模型注册表)或 Weights & Biases;模型比较用 scipy.stats 的配对 t 检验、McNemar 检验。
使用方式:先按数据特征选择交叉验证策略(标准表格用 KFold,不平衡分类用 StratifiedKFold,时间序列用 TimeSeriesSplit,分组数据用 GroupKFold);再按问题类型选指标(不平衡分类用 F1、PR-AUC、ROC-AUC,回归按需选 MAPE、R²、MAE 或 RMSE);随后分析交叉验证均值与标准差、验证曲线、学习曲线及分群误差;接着用 Optuna 做贝叶斯超参数优化;最后记录超参数、指标、模型产物与数据集版本以便复现。核心规则包括始终使用恰当验证、指标匹配问题类型、在未触碰的留出测试集上做最终评估、系统分析误差。
限制与注意:避免单一训练/测试划分、在不平衡数据上优化准确率、预处理数据泄漏、忽略概率校准与推理速度内存、缺少误差分析、过拟合验证集、不记录随机种子等反模式。详细内容见 references 下的交叉验证、指标指南、超参数调优与实验跟踪文档。