用途:该技能定位为资深数据工程能力,用于构建生产级 AI/ML/数据系统,包括可扩展数据管道、ETL/ELT 系统与数据基础设施。
主要能力:覆盖高级生产模式与架构、可扩展系统设计与实现、大规模性能优化、MLOps 与 DataOps 实践、实时处理与推理、分布式计算框架、模型部署与监控、安全与合规、成本优化以及团队领导与指导。技术栈涉及 Python、SQL、R、Scala、Go;PyTorch、TensorFlow、Scikit-learn、XGBoost;Spark、Airflow、dbt、Kafka、Databricks;LangChain、LlamaIndex、DSPy;Docker、Kubernetes、AWS/GCP/Azure;MLflow、Weights & Biases、Prometheus;PostgreSQL、BigQuery、Snowflake、Pinecone。
使用方式:提供三个核心脚本命令:python scripts/pipeline_orchestrator.py --input data/ --output results/;python scripts/data_quality_validator.py --target project/ --analyze;python scripts/etl_performance_optimizer.py --config config.yaml --deploy。参考文档包括 references/data_pipeline_architecture.md、references/data_modeling_patterns.md、references/dataops_best_practices.md。常见命令涵盖测试、格式化、训练、Docker 构建、kubectl 与 helm 部署及监控。
适用场景:企业级分布式数据处理、ML 模型部署与 A/B 测试、实时高吞吐推理、数据质量校验与性能调优等。
限制:资料未提供具体安装步骤、收费方式、平台支持范围与实测效果,相关性能目标(如 P50 < 50ms、可用性 99.9%)为文档中列出的目标值,非保证结果。