SuperAPI AI 工具集

huawei-cloud-dataarts-datasync-planner

数据与分析

查看项目

更新于 10-30 04:53

技能介绍

用途

该技能用于华为云侧数据同步管道的规划与产品选型。它面向已有数据同步链路的用户,通过收集源端、目标端、同步模式、数据量、频率、延迟要求等信息,识别现有管道,区分实时集成与批量离线集成,匹配华为云数据同步产品(DataArts Studio、DRS、DLI-Flink、DIS、DMS Kafka、OMS 等),并输出完整的数据同步链路方案与产品选型报告。

主要能力

  • 管道识别:收集每条数据同步管道的源数据源类型、精确版本号、部署模式、目标数据源、同步模式、日同步数据量、同步频率、延迟要求、现有工具等信息。
  • 实时/离线分类:依据延迟要求、触发方式、数据特征等核心准则,判断管道属于实时还是离线集成,并给出分类理由。
  • 产品能力匹配:根据源端/目标端数据源类型与集成模式匹配华为云产品,并在匹配后验证源端读取能力与目标端写入能力(含版本可行性检查)。
  • 方案设计:为每条管道设计华为云侧同步方案,包括推荐产品与备选、链路拓扑、集成模式、配置建议(含实例规格结论)、前提条件与约束。
  • 报告输出:生成结构化 Markdown 报告(5 个部分),并可进一步生成多 Sheet Excel 报告(源端数据链路、华为云侧同步链路、无法直接对标方案)。

使用方式

技能工作流分为六个阶段:

  1. 管道识别:收集现有数据同步管道完整信息,需确认源端版本号、日同步数据量、延迟要求等必填参数。
  2. 实时/离线分类:根据延迟要求(秒级→实时,小时级→离线)、触发模式(事件驱动→实时,定时→离线)等 5 步分类算法进行判断。
  3. 产品能力匹配:匹配 DataArts Studio 离线作业/CDM 作业/实时作业(迁移)、DRS、DLI-Flink、DIS、DMS Kafka、OMS 等产品,并执行读写矩阵验证。
  4. 方案设计:按 7 步方案设计算法输出每条管道的华为云侧同步方案,含实例规格推导(CDM 规格/迁移 CU 档位)。
  5. 报告输出:生成 Markdown 格式报告。
  6. Excel 报告生成:将调查结果写入 report.json,运行脚本生成多 Sheet Excel 报告。

前置条件:Python3 + openpyxl(pip install openpyxl),用于生成多 Sheet Excel 报告;可访问华为云 DataArts Studio 与 DRS 文档以确认数据源支持状态与实时复制能力。

核心命令:

# 根据调查结果生成报告(推荐)
python scripts/generate_datasync_report.py --input report.json

# 使用内置示例数据生成演示报告(无 --input)
python scripts/generate_datasync_report.py

输出文件命名:DataSync_Pipeline_Report_<YYYYMMDD>.xlsx

适用场景

  • 已有数据同步链路的用户需要规划迁移至华为云的数据同步方案。
  • 需要区分实时与离线集成场景,并进行产品选型。
  • 需要生成结构化的数据同步链路规划报告与 Excel 报告。
  • 多条管道统一规划,识别可共享的产品资源。

限制与注意事项

  • DRS 目标库限制:DRS 自 2025-08-31 起停止销售以 GaussDB(DWS)/CSS(ES) 为目标数据库的新链路;同步至 DWS 统一走 DataArts Studio(离线用 CDM/离线作业,实时用迁移)。
  • Kerberos 限制:MRS 集群 Kerberos 加密类型 "aes256-sha2,aes128-sha2" 不被 CDM 支持。
  • 存算分离限制:CDM 仅支持 MRS Hive 和 MRS Hudi 的存算分离场景。
  • Ranger 限制:CDM 仅支持 MRS Hive 的 Ranger 场景。
  • OBS 到 OBS 迁移:对象存储之间迁移建议使用 OMS 而非 CDM。
  • 自建 MPP 数据库:自建 Doris/StarRocks 等 MPP 分析型数据库不属于关系型数据库源,不能套用 MySQL→DWS 链路。
  • 实例规格不可变更:CDM 与迁移规格创建后不可修改,选型时需充分评估并发与表数量需求。
  • 读写矩阵未覆盖格式:遇到读写矩阵未列出的数据格式时,声明不在已知矩阵内并推荐最接近的替代方案。
  • 功能边界:仅覆盖数据同步全流程规划(管道识别→分类→产品匹配→方案设计→报告),不包含同步实施与运维。
  • 必填参数:源数据源类型+版本+部署、目标数据源、同步模式、日同步数据量、同步频率、延迟要求、现有工具均为必填;延迟要求未指定时必须主动询问。

暂未提供

该技能的具体收费模式、价格、平台限制等信息暂未提供。