SuperAPI AI 工具集

data-pipeline-auditor

数据与分析

查看项目

更新于 10-15 23:43

技能介绍

用途:在把结果问题归咎于模型之前,先假设数据管道可能出错,系统排查数据侧隐患。

主要能力:梳理数据集来源与构建过程、划分逻辑与过滤;检查预处理、分词与归一化;审查数据增强与采样;核对标签来源与歧义;分析训练/验证/测试指标及异常模式。工作流包括检查数据集创建与划分、排查泄漏/重复/污染、验证标签语义与预处理、评估增强与采样影响、识别训练-测试不匹配、按可能性与影响排序疑似缺陷,并给出针对性修复或诊断建议。

使用方式:技能会要求或推断上述信息,然后输出管道图、已确认风险、需进一步检查的可能风险、最高价值诊断项,以及会改变论文结论或评估的修复方案。

规则与限制:可疑的性能提升需额外做泄漏检查;数据缺陷也算发现;在检查数据路径前不要断言模型脆弱;需区分已确认泄漏与疑似泄漏。具体安装命令、平台支持与收费信息暂未提供。