用途:为机器学习项目自动化超参数调优与模型选择,使用 Optuna(单机、简单)或 Ray Tune(分布式、多机/多 GPU)配合高效搜索策略,适用于新项目快速寻找配置、新数据重训练、多算法对比、时间有限但需近优性能,以及需要可复现优化过程的团队。
主要能力:安装与搭建环境(Optuna、Ray Tune、XGBoost、LightGBM、scikit-learn、MLflow、TensorBoard 等);定义搜索空间与目标函数,使用 TPE、CmaES、NSGA-II 采样器及 Hyperband、Median、SuccessiveHalving 剪枝;用 ASHA、PBT 调度器做分布式优化;用 MLflow 记录参数、指标并注册模型;保存并部署最优模型、生成推理脚本与监控。
使用方式:建虚拟环境后按需安装,例如 pip install optuna optuna-dashboard 或 pip install "ray[tune]" optuna hyperopt bayesian-optimization,并建立 automl/{configs,experiments,models,results} 目录;依次定义搜索空间与目标、运行优化、按需启用 Ray Tune、接入 MLflow(mlflow ui --backend-store-uri file:./automl/mlruns)、导出模型。
限制:不生成特征,仅调参;搜索空间过宽浪费算力;易过拟合验证集;需变量化类别特征、处理缺失与不平衡;注意算力预算与持久化保存中间结果;兼容 Python 3.8-3.11。具体代码实现见原文示例文件,本文未提供收费与平台信息。