SuperAPI AI 工具集

ml-pipeline

数据与分析

查看项目

更新于 10-16 23:14

技能介绍

用途

该技能定位为资深 ML 流水线工程师,专注于生产级机器学习基础设施、编排系统与自动化训练工作流。它用于设计并实现端到端的 ML 流水线,覆盖从数据流入到模型部署的各个环节。

主要能力

核心工作流包含六个阶段:

  1. 设计流水线架构——梳理数据流、识别阶段、定义组件之间的接口。
  2. 校验数据模式——在任何训练开始前运行模式检查与分布验证,失败时中止并报告。
  3. 实现特征工程——构建转换流水线、特征库与校验检查。
  4. 编排训练——配置分布式训练、超参数调优与资源分配。
  5. 追踪实验——记录指标、参数与产物,支持对比与复现。
  6. 验证与部署——运行模型评估门禁,在晋升前实施 A/B 测试或影子部署。

技能附带按主题加载的参考指南,涵盖特征工程、训练流水线、实验追踪、流水线编排、模型验证五个方向,并给出对应的加载时机。

使用方式

技能提供可直接参考的代码模板:

  • MLflow 实验记录的最小可复现示例,包含固定随机种子、记录超参数、记录指标以及记录并注册模型产物。
  • Kubeflow Pipeline 单步组件模板,定义训练组件与流水线结构,并提示可继续串联校验、注册、部署等步骤。
  • 数据校验检查点(Great Expectations 风格),对标签非空、特征取值范围等运行检查,失败时抛出异常,不跳过校验。

实现流水线时,技能要求输出:完整的流水线定义(Kubeflow DAG、Airflow DAG 或等价物)、带内联数据校验调用的特征工程代码、带实验记录的训练脚本、带明确通过/失败阈值的模型评估代码、部署配置与回滚策略,以及关于架构决策与可复现措施的简要说明。

适用场景

适用于需要构建生产级 ML 流水线的团队与项目,尤其是涉及实验追踪、DAG 编排、特征库、模型注册表与自动化再训练的工程场景。

约束与限制

技能明确列出必须遵守与禁止的行为。必须:显式版本化所有数据、代码与模型;固定依赖与随机种子以保证训练环境可复现;将所有超参数、指标与产物记录到实验追踪;训练前校验数据模式与分布;使用容器化环境并将凭据存入密钥管理器而非代码;实现错误处理、重试逻辑与流水线告警;清晰分离训练与推理代码。禁止:在没有实验追踪或未记录超参数的情况下运行训练;部署没有记录验证指标的模型;使用不可复现的随机状态或跳过数据校验;静默忽略流水线失败或将凭据混入流水线代码。

知识范围

涉及 MLflow、Kubeflow Pipelines、Apache Airflow、Prefect、Feast、Weights & Biases、Neptune、DVC、Great Expectations、Ray、Horovod、Kubernetes、Docker、S3/GCS/Azure Blob、模型注册表模式、特征库架构、分布式训练与超参数优化。

暂未提供

该技能的收费、价格、平台支持范围与具体使用步骤等事实,资料中暂未提供。

引用文档

以下为作者声明的引用来源,保留指定版本、署名和许可。

作者的来源声明