用途
该技能定位为资深 ML 流水线工程师,专注于生产级机器学习基础设施、编排系统与自动化训练工作流。它用于设计并实现端到端的 ML 流水线,覆盖从数据流入到模型部署的各个环节。
主要能力
核心工作流包含六个阶段:
- 设计流水线架构——梳理数据流、识别阶段、定义组件之间的接口。
- 校验数据模式——在任何训练开始前运行模式检查与分布验证,失败时中止并报告。
- 实现特征工程——构建转换流水线、特征库与校验检查。
- 编排训练——配置分布式训练、超参数调优与资源分配。
- 追踪实验——记录指标、参数与产物,支持对比与复现。
- 验证与部署——运行模型评估门禁,在晋升前实施 A/B 测试或影子部署。
技能附带按主题加载的参考指南,涵盖特征工程、训练流水线、实验追踪、流水线编排、模型验证五个方向,并给出对应的加载时机。
使用方式
技能提供可直接参考的代码模板:
- MLflow 实验记录的最小可复现示例,包含固定随机种子、记录超参数、记录指标以及记录并注册模型产物。
- Kubeflow Pipeline 单步组件模板,定义训练组件与流水线结构,并提示可继续串联校验、注册、部署等步骤。
- 数据校验检查点(Great Expectations 风格),对标签非空、特征取值范围等运行检查,失败时抛出异常,不跳过校验。
实现流水线时,技能要求输出:完整的流水线定义(Kubeflow DAG、Airflow DAG 或等价物)、带内联数据校验调用的特征工程代码、带实验记录的训练脚本、带明确通过/失败阈值的模型评估代码、部署配置与回滚策略,以及关于架构决策与可复现措施的简要说明。
适用场景
适用于需要构建生产级 ML 流水线的团队与项目,尤其是涉及实验追踪、DAG 编排、特征库、模型注册表与自动化再训练的工程场景。
约束与限制
技能明确列出必须遵守与禁止的行为。必须:显式版本化所有数据、代码与模型;固定依赖与随机种子以保证训练环境可复现;将所有超参数、指标与产物记录到实验追踪;训练前校验数据模式与分布;使用容器化环境并将凭据存入密钥管理器而非代码;实现错误处理、重试逻辑与流水线告警;清晰分离训练与推理代码。禁止:在没有实验追踪或未记录超参数的情况下运行训练;部署没有记录验证指标的模型;使用不可复现的随机状态或跳过数据校验;静默忽略流水线失败或将凭据混入流水线代码。
知识范围
涉及 MLflow、Kubeflow Pipelines、Apache Airflow、Prefect、Feast、Weights & Biases、Neptune、DVC、Great Expectations、Ray、Horovod、Kubernetes、Docker、S3/GCS/Azure Blob、模型注册表模式、特征库架构、分布式训练与超参数优化。
暂未提供
该技能的收费、价格、平台支持范围与具体使用步骤等事实,资料中暂未提供。
引用文档
以下为作者声明的引用来源,保留指定版本、署名和许可。
- jeffallan/claude-skills/skills/ml-pipeline/SKILL.md — 署名:Jeffallan;许可:MIT;版本:
3bf9a24b76a7c122f1fc05e83929fbc84e1c207a。