SuperAPI AI 工具集

data-exploration

数据与分析

查看项目

更新于 10-16 04:39

技能介绍

用途

Data Exploration 是一个数据探查技能,目标是在正式分析之前,系统性地剖析数据集,理解其结构(shape)、质量(quality)与模式(patterns)。它提供了一套可复用的方法论,帮助分析人员快速建立对陌生数据集的认知,避免在未理解数据的情况下直接进入分析。

主要能力

数据剖析方法论

阶段一:结构理解 在分析任何数据之前,先理解其结构。表级问题包括:有多少行和列?粒度是什么(一行代表什么)?主键是什么、是否唯一?数据最后更新时间?数据可追溯多久?

列分类将每一列归入以下类型之一:标识符(唯一键、外键、实体 ID)、维度(用于分组/筛选的分类属性,如状态、类型、地区、类别)、度量(用于测量的定量值,如收入、计数、时长、评分)、时间(日期与时间戳,如 created_at、updated_at、event_date)、文本(自由文本字段,如描述、备注、名称)、布尔(真/假标志)、结构化(JSON、数组、嵌套结构)。

阶段二:列级剖析 对每一列计算:所有列统计空值数量与空值率、去重计数与基数比(去重数/总数)、最常见值(前 5-10 个及频率)、最少见值(后 5 个以发现异常)。

数值列(度量):最小值、最大值、均值、中位数(p50)、标准差、百分位数(p1、p5、p25、p75、p95、p99)、零值计数、负值计数(若非预期)。

字符串列(维度、文本):最小长度、最大长度、平均长度、空字符串计数、模式分析(值是否遵循某种格式)、大小写一致性(全大写、全小写、混合)、首尾空白字符计数。

日期/时间戳列:最小日期、最大日期、空日期、未来日期(若非预期)、按月/周分布、时间序列中的缺口。

布尔列:真计数、假计数、空计数、真值率。

阶段三:关系发现 在完成单列剖析后,识别:外键候选(可能链接到其他表的 ID 列)、层级关系(构成自然下钻路径的列,如国家 > 省 > 城市)、相关性(同步变化的数值列)、派生列(看似由其他列计算得出的列)、冗余列(信息相同或近乎相同的列)。

质量评估框架

完整性评分:对每列评级——完整(>99% 非空,绿色)、基本完整(95-99%,黄色,需调查空值)、不完整(80-95%,橙色,需理解原因及影响)、稀疏(<80%,红色,未经插补可能不可用)。

一致性检查:值格式不一致(同一概念的不同表示,如 "USA"、"US"、"United States"、"us")、类型不一致(数字存为字符串、日期格式多样)、引用完整性(外键找不到对应父记录)、业务规则违规(负数量、结束日期早于开始日期、百分比大于 100)、跨列一致性(状态为 "completed" 但 completed_at 为空)。

准确性指标:提示准确性问题的红旗信号包括——占位值(0、-1、999999、"N/A"、"TBD"、"test"、"xxx")、默认值(单一值频率异常高)、陈旧数据(活跃系统中 updated_at 无近期变化)、不可能的值(年龄大于 150、远期未来日期、负时长)、整数偏好(所有值以 0 或 5 结尾,提示为估算而非测量)。

时效性评估:表最后更新时间?预期更新频率?事件时间与加载时间之间是否存在延迟?时间序列中是否有缺口?

模式发现技术

分布分析:对数值列刻画分布形态——正态(均值与中位数接近,钟形)、右偏(高值长尾,常见于收入、会话时长)、左偏(低值长尾,较少见)、双峰(两个峰值,提示两个不同群体)、幂律(少数极大值、大量小值,常见于用户活动)、均匀(范围内频率大致相等,常为合成或随机数据)。

时间模式:趋势(持续上升或下降)、季节性(重复模式:周、月、季、年)、星期效应(工作日与周末差异)、节假日效应(已知节假日前后下降或尖峰)、变化点(水平或趋势的突然转变)、异常(打破模式的个别数据点)。

分群发现:通过以下方式识别自然分群——寻找具有 3-20 个去重值的分类列、比较各分群值下的度量分布、寻找行为显著不同的分群、检验分群是同质还是包含子分群。

相关性探索:在数值列之间计算所有度量对的相关系数矩阵、标记强相关(|r| > 0.7)以供调查、明确提示相关不等于因果、检查非线性关系(如二次、对数)。

模式理解与文档化

提供模式文档模板,包含:表描述、粒度、主键、行数(近似值及日期)、更新频率、负责人;关键列表格(列名、类型、描述、示例值、备注);关系(与其他表的连接方式);已知问题;常见查询模式。

提供模式探查查询示例(以 PostgreSQL 为例):列出模式中所有表、列详情、表大小、各表行数(通用模式为逐表执行 SELECT COUNT(*))。

血缘与依赖:探索陌生数据环境时——从"输出"表(报表或仪表盘消费的表)开始、向上游追溯(哪些表为其提供数据)、识别原始/暂存/集市分层、映射从原始数据到分析表的转换链、记录数据被丰富、过滤或聚合的位置。

使用方式

该技能以方法论和模板形式提供,可在数据探查任务中按阶段执行:先做结构理解,再做列级剖析,然后进行关系发现,接着按质量评估框架检查数据,最后用模式发现技术挖掘规律,并将结果按文档模板记录。资料中未提供具体的安装命令或代码调用方式。

适用场景

适用于在正式分析前需要了解数据集结构、质量与模式的场景,例如接手陌生数据集、评估数据可用性、为团队编写数据文档、排查数据质量问题、发现数据中的分布与时间规律等。

限制

资料中未提供关于收费、价格、平台支持范围、性能指标或具体工具集成的信息。相关性分析部分明确提示相关不等于因果。质量评估中的阈值(如完整性评分区间)为方法论建议,实际应用需结合具体业务判断。