SuperAPI AI 工具集

ml-learning-methods

数据与分析

查看项目

更新于 10-16 09:48

技能介绍

用途:以参考章节为概念资源,帮助解释机制、比较方法并做出训练选择。先读相关章节,仅在需要广览时加载完整合集。主题路由包括:类别关系(学习地图)、掩码预测(完形任务、BERT、MAE、掩码比例、预测目标)、表示学习(对比学习、坍塌、教师、嵌入、JEPA)、生成学习(自回归、VAE、GAN、扩散、流、掩码生成)、监督与经典方法(标签、伪标签、弱监督、树、核、聚类)、决策与自适应(奖励、模仿、偏好、迁移、LoRA、元学习、遗忘)、结构化与分布式学习(贝叶斯、因果、图、科学、联邦、分布式)、选择与评估。

解释方法:先确定其轴线——监督来源、预测目标、架构、优化器、训练阶段、部署设置或评估协议;许多方法跨多轴,不要强行归入互斥分支。把可见输入、目标、损失与学到的产物联系到具体例子,说明目标鼓励什么、可能丢弃什么信息、适用场景、失败模式与最近替代方案;必要时补充公式并定义符号。区分模型的原始训练配方与更大方法族,例如 BERT 的 15% 选择率与 MAE 的 75% 掩码率是配方选择而非普遍规律;区分被选预测位置、被破坏取值与注意力掩码。避免常见类别错误:自监督不等于无信号;掩码重建本身不指定生成采样器;联邦不等于隐私;DPO 不需要在线 RL 循环;上下文示例通常不更新模型权重。

推荐方法:用可用上下文确定所需输出、数据模态与独立单元、标签或奖励可得性、预训练资产、适配预算与推理约束;缺失约束会改变建议时声明假设。给出最小可信基线及由瓶颈决定的替代方案,解释为何训练信号匹配下游需求、哪个假设可能失效、哪种比较会改变选择;不要仅因存在无标注数据就建议从零预训练。比较总成本:数据与标签获取、训练、调参、适配与推理服务;区分重建质量、冻结特征质量、微调质量与样本质量;单一数据集或算力预算的结果不是通用排名。

证据与限制:章节混合有来源的机制与明确标识的实践综合,精确配方或有争议主张应查引文;推荐具体当前版本前,应从原始论文或官方文档刷新模型可用性、基准排名与实现要求。该材料是概念资源,不声称覆盖所有 ML 算法,也不保证代表模型为最新;总结因果、隐私、不确定性与分布外结果时保留其局限与识别假设。