SuperAPI AI 工具集

analytics-data-processing

数据与分析

查看项目

更新于 10-16 01:19

技能介绍

本技能用于掌握数据从获取到建模的完整处理流程,能力范围包括数据获取、数据清洗、数据转换与数据建模,触发条件为需要准备分析数据或构建数据模型时。

数据获取:支持业务系统(CRM、ERP、电商等,通过数据库直连或 API)、用户行为(APP、Web、小程序埋点与日志)、外部数据(第三方、公开数据,通过文件导入或爬虫)以及实时数据(IoT、传感器流式采集)。获取模式包含批量获取(pandas 配合 SQLAlchemy 读取数据库)、API 获取(requests 请求后转 DataFrame)、文件导入(read_csv、read_excel、read_json)等。同时提供数据质量评估,统计总行数、总列数、缺失值、缺失率、重复数与字段类型。

数据清洗:涵盖缺失值处理(dropna、fillna、ffill、interpolate)、异常值处理(基于 IQR 或 Z-score 剔除)、数据类型转换、重复值处理。

数据转换:支持聚合统计、透视表、时间序列转换(重采样、滚动窗口、累积求和)以及归一化与标准化。

数据建模:包含维度表与事实表设计、指标计算、层级汇总,并给出数据工厂分层架构(贴源层 ODS、整合层 DWD、汇总层 DWS、应用层)及建表示例。另附常用工具用法,如 Pandas 进阶操作与 SQL 窗口函数,以及数据质量监控和异常检测思路。

限制与注意事项:资料未提供具体平台适配、收费方式与运行环境要求;文中强调数据清洗质量优先,应保留原始数据、新建处理后字段,明确记录数据口径,并与业务方确认指标定义以避免偏差。