SuperAPI AI 工具集

data-lineage-mapper

数据与分析

查看项目

更新于 10-15 09:46

技能介绍

用途

Data Lineage Mapper 用于从多种数据源中提取和映射数据血缘关系,提供全面的数据流可见性。它解析 SQL 查询、dbt 项目、Airflow DAG 和 Spark 作业,生成展示数据从源到目标流动的血缘图,从而支持影响分析和数据治理。

主要能力

  • SQL 解析血缘提取:解析 SELECT、INSERT、MERGE 语句。
  • dbt 血缘集成:从 manifest.json 提取血缘。
  • Airflow 任务血缘映射:映射跨 DAG 任务的数据流。
  • Spark 作业血缘提取:解析 Spark SQL 和 DataFrame 操作。
  • 跨系统血缘连接:连接不同工具之间的血缘。
  • 列级血缘追踪:追踪单个列的转换。
  • 影响分析:下游/上游影响评估。
  • 血缘图生成:可视化及机器可读的血缘。
  • 与数据目录集成:导出到 DataHub、Amundsen、Alation。

使用方式

该技能通过输入模式接收数据源,支持 sql、dbt、airflow、spark、file 类型。可指定 existingLineage 合并现有血缘图,targetCatalog 选择导出格式(datahub、amundsen、alation、openlineage、json,默认 json)。选项包括 columnLevel(默认 true)、resolveViews(默认 false)、includeTemporary(默认 false)。输出包含 lineageGraph(节点和边)、columnLineage、impactAnalysis、catalogIntegration 和 statistics。

使用示例包括:SQL 查询血缘、dbt 项目血缘、多源血缘、表变更影响分析。

适用场景

适用于数据治理、影响分析、数据目录构建、dbt 项目分析等场景。可集成 MCP Server(dbt MCP、数据库 MCP、MindsDB),相关技能包括 dbt Project Analyzer 和 Data Catalog Enricher。适用流程包括 Data Lineage Mapping、Data Catalog、dbt Project Setup。

限制

暂未提供关于收费、价格、平台限制或具体性能指标的信息。