SuperAPI AI 工具集

ml-experiment-tracker

数据与分析

查看项目

更新于 10-15 09:41

技能介绍

该技能面向系统化的机器学习实验管理,提供实验记录、版本管理与可复现性方面的实践指导。

主要能力

实验跟踪:覆盖 MLflow、Weights & Biases(wandb)、Neptune、Comet 等工具。 数据版本管理:覆盖 DVC、Delta Lake、LakeFS。 模型注册表:对已训练模型进行版本控制。 可复现性:跟踪环境、代码、数据与超参数。

需要记录的内容

每个实验应记录:代码(Git commit hash、分支、diff,用于复现确切的代码状态);数据(数据集版本、哈希、血缘,用于知晓使用了哪些数据);环境(Python 版本、依赖、硬件,用于复现运行时);超参数(所有配置值,用于理解变更点);指标(损失、准确率、自定义指标,用于对比性能);产物(模型、图表、预测结果,用于保留输出)。

实验组织

给出了项目目录示例:experiments 下按 baseline、feature-engineering、architecture、hyperparameter 分类;data 下分 raw、processed、features;models 下分 staging、production。

MLflow 使用模式

基础实验记录:设置实验后启动 run,记录参数(如 learning_rate、batch_size、epochs),在训练循环中按 step 记录指标(train_loss、val_loss、val_accuracy),记录模型(如 mlflow.pytorch.log_model)以及图表和配置文件等产物。 模型注册表工作流:训练运行 → Staging 评审 → Production 部署;阶段包括 None(仅记录未注册)、Staging(生产候选)、Production(在线服务)、Archived(历史参考)。

Weights & Biases 使用模式

项目结构:通过 wandb.init 传入 project、group(对相关 run 分组)、tags、config、notes;训练中通过 wandb.log 记录指标,并记录图像(wandb.Image)与混淆矩阵(wandb.plot.confusion_matrix)等媒体。 超参数扫描:给出 sweep 配置示例,method 可选 bayes、grid、random,metric 指定名称与目标,parameters 支持 log_uniform_values、离散取值等分布,并可配置 early_terminate(如 hyperband)。

DVC 数据版本管理

初始化与使用:在 git 仓库中 dvc init,用 dvc add 跟踪大文件并提交 .dvc 文件,配置远程存储(如 S3)并 dvc push,用 dvc run 定义预处理等流水线,用 dvc repro 复现流水线。 流水线定义:dvc.yaml 中定义 stages(如 preprocess、train),声明 cmd、deps、outs、params 与 metrics。

可复现性检查清单

代码:为每个实验固定 git commit,跟踪未提交变更(git diff),对 notebook 做版本控制(nbstripout),记录手动步骤。 环境:锁定依赖(pip freeze、poetry.lock),指定 Python 版本,记录 CUDA/GPU 需求,使用容器实现完整隔离。 数据:用 DVC 等对数据集做版本控制,记录数据采集过程,跟踪预处理步骤,保存训练/验证/测试划分索引。 训练:设置随机种子(Python、NumPy、PyTorch/TF),记录全部超参数,保存模型检查点,记录非确定性操作。

最佳实践

命名规范:experiment 采用 {project}-{objective},run 采用 {date}-{description}-{variant},model 采用 {architecture}-{dataset}-{version},并给出示例。 对比看板:跟踪主指标(优化目标)、次指标(约束)、资源使用(训练时间、内存)、推理性能(延迟、吞吐)。 实验文档:每个重要实验应记录假设(改了什么、预期结果)、方法(实际做了什么)、结果(指标与观察)、结论(学到了什么、下一步)。

参考资料

references/mlflow-setup.md(MLflow 安装与配置)、references/wandb-patterns.md(W&B 高级特性与扫描)、references/reproducibility-checklist.md(详细可复现性指南)。

限制说明

该资料未提供具体的收费、价格、支持平台或实际使用效果等信息。