SuperAPI AI 工具集

machine-learning

智能体与模型

查看项目

更新于 10-15 08:33

技能介绍

用途

本技能面向机器学习开发全流程,覆盖从实验到生产部署的完整生命周期。当需要构建机器学习管道、进行特征工程与数据预处理、训练与选择模型、超参数调优、模型部署与服务、ML 实验追踪与版本管理、以及生产环境 ML 监控与维护时,可使用本技能。

主要能力

1. 问题定义

支持多种问题类型:二分类(如垃圾邮件识别)、多分类(图像类别)、多标签分类(文档标签)、回归(价格预测)、聚类(客户分群)、排序(搜索结果)、异常检测(欺诈检测)。并给出各问题类型的主要与次要成功指标:二分类常用 AUC-ROC、F1,辅助 Precision、Recall、PR-AUC;多分类常用 Macro F1、Accuracy 与各类别指标;回归常用 RMSE、MAE,辅助 R²、MAPE;排序常用 NDCG、MAP,辅助 MRR;聚类常用 Silhouette、Calinski-Harabasz,辅助 Davies-Bouldin。

2. 数据准备

数据质量检查包括:缺失值分析与插补策略、异常值检测与处理、数据类型校验、分布分析、目标泄漏检测。特征工程模式覆盖:数值型(缩放、分箱、对数变换、多项式特征)、类别型(独热、目标编码、频率编码、嵌入)、时间型(滞后特征、滚动统计、周期性编码)、文本(TF-IDF、词嵌入、Transformer 嵌入)、地理空间(距离特征、聚类、网格编码)。训练/测试切分策略包括:随机切分、分层切分(类别不平衡)、基于时间的切分(时序数据)、分组切分(防止数据泄漏)、K 折交叉验证。

3. 模型选择

按数据规模与问题类型给出算法选择指南:小数据(<10K)分类可选逻辑回归、SVM、随机森林;小数据回归可选线性回归、Ridge、SVR;中等规模(10K-1M)分类与回归可选 XGBoost、LightGBM、神经网络;大规模(>1M)可选深度学习与分布式训练;表格数据常用梯度提升(XGBoost、LightGBM、CatBoost);图像分类常用 CNN、ResNet、EfficientNet、Vision Transformers;文本 NLP 常用 Transformer(BERT、RoBERTa、GPT);时序序列常用 LSTM、Transformer、Prophet。

4. 模型训练

超参数调优方法包括:网格搜索(穷举,适合小空间)、随机搜索(高效,适合大空间)、贝叶斯优化(智能探索,如 Optuna、Hyperopt)、早停(防止过拟合)。并列出常用超参数:XGBoost 的 learning_rate、max_depth、n_estimators、subsample;LightGBM 的 num_leaves、learning_rate、n_estimators、feature_fraction;随机森林的 n_estimators、max_depth、min_samples_split;神经网络的 learning_rate、batch_size、层数、dropout。

5. 模型评估

评估最佳实践:最终评估始终使用留出测试集,开发阶段使用交叉验证,检查过拟合(训练与验证差距),多指标评估,定性分析错误。不平衡数据处理包括:重采样(SMOTE、欠采样)、类别权重(加权损失函数)、阈值调优(优化决策阈值)、评估(优先使用 PR-AUC 而非 ROC-AUC)。

6. 生产部署

模型服务模式:REST API(Flask、FastAPI、TF Serving)、批量推理(定时任务)、流式(实时预测)、边缘部署(移动端、IoT)。生产考量包括:延迟要求(p50、p95、p99)、吞吐量(每秒请求数)、模型大小与内存占用、降级策略、A/B 测试框架。

7. 监控与维护

监控内容包括:预测延迟、输入特征分布(数据漂移)、预测分布(概念漂移)、模型性能指标、错误率与错误类型。重训触发条件包括:性能低于阈值、检测到显著数据漂移、定时重训(每日、每周)、有新的训练数据可用。

MLOps 最佳实践

实验追踪需记录:代码版本(git commit)、数据版本(哈希或版本 ID)、超参数、指标(训练、验证、测试)、模型产物、环境(包与版本)。模型版本管理示例目录结构:models/ 下包含 model_v1.0.0/(model.pkl、metadata.json、requirements.txt、metrics.json)、model_v1.1.0/、model_v2.0.0/。ML 的 CI/CD:持续集成包含数据校验测试、模型训练测试、性能回归测试;持续部署包含预发环境验证、影子模式测试、渐进式发布(金丝雀)、自动回滚。

参考文件

可按需加载详细模式与代码示例:references/preprocessing.md(数据预处理与特征工程技术)、references/model_patterns.md(模型架构模式与实现示例)、references/evaluation.md(综合评估策略与指标)。

与其他技能集成

performance(优化推理延迟)、testing(ML 专属测试模式)、database-optimization(特征存储查询)、debugging(模型调试与错误分析)。

限制

具体价格、收费模式、平台兼容性、安装命令与使用步骤暂未提供。