SuperAPI AI 工具集

ai-ml-data-science

数据与分析

查看项目

更新于 10-15 08:55

技能介绍

用途

该技能用于数据科学工程全流程的建模工作,典型使用场景包括:探索数据集并评估建模可行性;设计特征流水线与泄漏控制;选择并比较模型族;对未标注文本做聚类与主题发现;构建可复现的实验工作流;产出评估报告、模型卡与交付物;评审实验是否真正达到生产交接标准;解释负责任 AI 的建模机制(公平性与交叉性、隐私、可解释性、投毒、记忆化、人工监督、环境权衡);设计通用多模态模型(对比式图文学习、融合、VQA/文档/视频系统、扩散控制、适配、质量-延迟权衡)。

主要能力

技能提供快速参考方向:可复现 Python 工作流采用 uv 加脚本或对 git 友好的 notebook(marimo 用于响应式/可 diff 的 notebook);快速本地分析用 DuckDB 加 Polars;数据契约在数据集边界使用 Pandera 或 GX Core;表格基线用线性或逻辑回归模型加树模型候选;特征工程使用显式、训练-服务安全的变换;无标注文本语料采用 embed -> UMAP -> HDBSCAN -> c-TF-IDF,在文档级标签不必要时使用主题级 LLM 标签;调参在基线稳定后才用 Optuna;评估覆盖切片、阈值、校准、不确定性;交接包含模型卡、评估报告、失败模式与监控预期。

核心规则包括:显式写下预测时间戳;在时间或实体泄漏可能存在时不要信任随机划分;至少用简单基线对比更强候选;把阈值化、校准与不确定性视为决策的一部分;保持数据版本、特征版本、种子与划分逻辑可复现;将服务、重训与监控路由到 ai-mlops。

预测时间资格门要求:对每个特征写下来源事件、事件时间、可用时间、变换版本与实体连接键,排除在声明预测时间戳不存在的取值;离线回填与在线服务只有在对齐实体与时间戳的时点测试证明语义一致、保留变换版本身份并监控生产偏移时,才可使用不同实现。用预期划分单位与决策阈值评估存活的流水线,并与最简单可行动基线比较。只有预测动作、弃权路径以及假阳性/假阴性成本明确时,模型才算决策就绪。

使用方式

脚本方面:ml_toolkit.py 根据 model-spec JSON 生成模型卡、泄漏检查与模型质量报告;leakage_scan.py 是面向 ML 特征/目标列规格(JSON/JSONL)的静态泄漏扫描器,从列元数据中标记时间泄漏、目标泄漏与 ID 泄漏反模式。退出码 0 表示无元数据标记,1 表示有发现,2 表示输入格式错误或 I/O 失败;设置 prediction_time 可测试打分时资格,label_time 单独使用是较弱的旧式截断。典型用法:

python scripts/ml_toolkit.py card --input data/sample-model-spec.json python scripts/ml_toolkit.py leakage --input data/sample-model-spec.json python scripts/ml_toolkit.py report --input data/sample-model-spec.json --output report.md

ml_toolkit.py 的 leakage 与 report 对 WARN/FAIL(含缺失时间截断)退出 1,对无效输入/I/O 错误退出 2。静态 PASS 需要在交接前进行行级可用性与划分验证。扫描器接受非空 target 与 columns;JSONL 每行一个完整 spec 并拒绝畸形记录。使用匹配的 ISO 时间(一致的时区感知)或符号化 T±<整数><s|m|h|d> 偏移。model-spec 字段见 scripts/README.md。

模板包括:assets/project/template-standard.md、assets/project/template-quick.md、assets/features/template-feature-engineering.md、assets/eda/template-eda.md、assets/evaluation/template-evaluation-report.md、assets/evaluation/template-model-card.md、assets/review/experiment-review-template.md。

适用场景与限制

适用:表格或关系数据(基线加树模型对比)、经典文本或嵌入加分类器、无标注文本主题发现、负责任 AI 概念与建模权衡、多模态表示/融合/VQA/文档/视频/扩散机制。

需路由到其他技能:服务、重训自动化、监控或事件响应 -> ai-mlops;预测与时间验证 -> ai-ml-timeseries;湖仓或批式摄取基础设施 -> data-lake-platform;流式基础设施(Kafka、Flink、CDC)-> data-streaming;提示、微调或 LLM 系统设计 -> ai-llm 或 ai-rag。

已知陷阱包括:在时间、实体、家庭、账户或会话泄漏可能存在时使用随机训练/测试划分;用预测点之后才可得的信息构建特征却称为“生产就绪”;在基线与指标定义稳定前调参;只报 AUC 或单一聚合分数而忽略阈值选择、校准、切片行为与运营权衡;让 notebook 状态成为真实流水线逻辑;单一特征近乎完美区分或领域专家认为好得难以置信的指标应首先当作泄漏缺陷;重复出现的实体需要匹配部署的划分(未见实体泛化用分组留出,时间划分在再次打分同一实体时可保留先前实体);凭记忆或旧教程引用库版本、基准数字或 API 模式(表格 ML 工具在一年内会跨破坏性大版本)。

自主实验循环仅在指标明确、搜索空间有界、每次运行足够廉价可自动保留或回退时使用。学习循环方面:相关时查阅 learnings.consolidated.md(若存在),learnings.md 仅用于所需历史或作为回退,否则跳过两者;应用后若遇到值得记住的模式、值得预防的错误或令人意外的领域事实,通过 agents-skills-feedback-loop/scripts/append_learning.py 向 learnings.md 追加一条带日期的要点,不要修改 SKILL.md 本身。