用途:这是一门免费 9 周数据工程课程,目标是掌握生产级数据管道开发,覆盖容器化、基础设施即代码、工作流编排、数据仓库、分析工程、批处理与流处理。课程按批次开课(下一期 2026 年 1 月启动),全部材料也可自定进度学习。
主要能力与模块:模块 1 用 Docker 与 Terraform,示例包括创建 pg-network 网络、运行 postgres:13 与 dpage/pgadmin4 容器、用 docker-compose up -d 启动整套栈,以及用 terraform init/plan/apply/destroy 管理 GCP 存储桶与 BigQuery 数据集。模块 2 用 Kestra 编排数据摄取,示例流程下载 NYC 出租车 CSV 并用 Python 写入 Postgres。模块 3 在 BigQuery 中创建外部表、分区表与分区聚簇表。模块 4 用 dbt 做分析工程,含 staging/core 模型、宏、schema 测试与 dbt run、dbt test、dbt docs generate 等命令。模块 6 用 PySpark 做批处理,示例含下载 Spark 3.3.2、设置 SPARK_HOME 与编写 SparkSession 脚本。资料还提到数据平台 Bruin 与流处理 Kafka。
使用方式:需具备基础编程经验、熟悉 SQL,Python 有帮助但非必需;需安装 Git、Docker Desktop 或 Docker Engine,并准备 GCP 免费层账号。按模块顺序动手实践即可。
适用场景:适合想系统入门数据工程、构建端到端数据管道并积累项目经验的学习者。
限制:课程为免费公开材料,具体收费、证书、考核与平台细节暂未提供;部分模块(如 Kafka、Bruin)在资料中未展开,需以官方课程材料为准。