Senior ML Engineer 是一个面向生产环境的机器学习工程技能，覆盖模型部署、MLOps 基础设施与 LLM 集成三大方向，并附带参考文档与脚本工具。
一、用途 该技能用于将训练好的模型投入生产、搭建自动化 MLOps 流水线、把 LLM API 集成进生产应用，以及构建检索增强生成（RAG）系统。它强调可落地的工程模式，而非仅停留在理论层面。
二、主要能力
- 模型部署工作流：将模型导出为标准化格式（ONNX、TorchScript、SavedModel），用 Docker 容器打包依赖，部署到预发环境，运行集成测试，再以 5% 流量灰度发布到生产，监控 1 小时延迟与错误率，指标通过后全量发布。验证标准为 p95 延迟 < 100ms、错误率 < 0.1%。
- 服务方案对比：列出 FastAPI + Uvicorn、Triton Inference Server、TensorFlow Serving、TorchServe、Ray Serve 的延迟、吞吐与适用场景。
- MLOps 流水线搭建：配置特征存储（Feast、Tecton）、实验追踪（MLflow、Weights & Biases）、带超参日志的训练流水线、模型注册与版本元数据、由注册事件触发的预发部署、A/B 测试基础设施、漂移监控与告警。验证标准为新模型自动与基线对比评估。
- 重训练触发条件：按计划（Cron）、性能下降（准确率低于阈值）、数据漂移（PSI > 0.2）、新数据量等触发不同动作。
- LLM 集成工作流：创建供应商抽象层、指数退避重试、降级到备用供应商、token 计数与上下文截断、响应缓存、按请求成本追踪、用 Pydantic 做结构化输出校验。
- 成本管理：文档明确要求不要硬编码价格，也不要信任文档中的价格表，因为供应商每年多次调价。建议按层级（小/中/大）工作，在请求时查询实时价格，并基于层级间比例（比绝对价格更稳定）做模型路由决策。
- RAG 系统实现：选择向量数据库（Pinecone、Qdrant、Weaviate、Chroma、pgvector）、选择嵌入模型、文档分块、带元数据提取的摄取流水线、查询嵌入检索、重排、格式化上下文发送给 LLM。
- 模型监控：延迟追踪（p50/p95/p99）、错误率告警、输入数据漂移检测、预测分布偏移追踪、真实标签记录、A/B 版本对比、自动重训练触发。
三、使用方式 技能提供代码示例与脚本工具：
- 容器模板：基于 python:3.11-slim 的 Dockerfile，含 HEALTHCHECK 与 uvicorn 启动命令。
- 特征存储模式：Feast 的 Entity、FeatureView、FileSource 示例。
- 供应商抽象：基于 ABC 的 LLMProvider 抽象类与 tenacity 重试装饰器。
- 漂移检测：使用 scipy.stats.ks_2samp 的 detect_drift 函数。
- 脚本工具：
- python scripts/model_deployment_pipeline.py --model model.pkl --target staging（生成 Dockerfile、Kubernetes 清单、健康检查）
- python scripts/rag_system_builder.py --config rag_config.yaml --analyze（搭建 RAG 流水线）
- python scripts/ml_monitoring_suite.py --config monitoring.yaml --deploy（设置漂移检测、告警与性能看板）
四、适用场景 适用于需要将 ML 模型生产化的团队、搭建 MLOps 平台的工程师、集成 LLM 的应用开发者，以及构建 RAG 系统的项目。技术栈涵盖 PyTorch、TensorFlow、Scikit-learn、XGBoost、LangChain、LlamaIndex、DSPy、MLflow、Kubeflow、Spark、Airflow、dbt、Kafka、Docker、Kubernetes、Triton、PostgreSQL、BigQuery、Pinecone、Redis 等。
五、限制 文档未提供具体收费、价格或平台信息；成本部分明确要求不硬编码价格、以实时查询为准。参考文档（mlops_production_patterns.md、llm_integration_guide.md、rag_system_architecture.md）的具体内容未在资料中完整展开。