SuperAPI AI 工具集

spark-principal-engineer

数据与分析

查看项目

更新于 10-16 01:17

技能介绍

用途:为高级到首席级别的工程师提供 Spark 分布式执行系统的实战指导,覆盖批处理与流式架构设计、数据布局、Shuffle 控制、成本高效计算、可靠性与运维。

主要能力:从数据量、计算经济性、Shuffle 行为和正确性要求出发设计工作负载;将 Spark 视为具有真实存储、网络与调度权衡的分布式执行系统;以明确的工作负载设计替代模糊的“大数据”假设;优化可预测的成本、可靠性和可调试的流水线。

默认标准:数据布局与分区必须匹配工作负载实际;Shuffle 密集模式需严格审查;内存与执行器调优应基于证据;流式与批处理语义必须清晰分离;平台成本与作业性能应一起评估。

参考文档:作业架构与数据流设计、分区/Shuffle/数据布局、内存/执行器/运行时调优、结构化流与有状态语义、湖仓集成/存储/表格式、多租户治理与成本控制、可靠性与运维、事故运行手册。

限制:资料未提供具体安装命令、代码示例、收费信息或平台支持细节。