用途:本技能用于判断一个AI模型的真实能力,而非表面数字。当团队报告了很高的准确率、需要设计新ML项目的评估方案,或业务方质疑“这个AI到底好不好用”时适用。
主要能力:强调将标注数据分为互不重叠的训练集与测试集。训练集喂给算法学习规律;测试集完全藏起来,仅在最终评估时使用,用来衡量模型在未见过的数据上的表现。测试集相当于AI的科学实验对照组,用于确认模型是否真正具备泛化能力。
使用方式:先检查数据是否已分割且无重叠,测试集在训练过程中绝不能被模型看到;训练前就定义验收标准(如测试集准确率达到95%),避免训练后随意调整;训练过程中不要用测试集做任何决策(如调参、选模型),测试集只能用一次;向利益相关者汇报测试集上的表现,而非训练集上的表现。完成标准是模型在从未见过的测试集上达到预定义标准,且测试集全程未被污染。
适用场景:需要判断AI模型真实能力、设计评估方案、回应业务方对效果的质疑时。资料给出的案例是咖啡杯缺陷检测:10000张图片分为训练集8000张、测试集2000张,模型在2000张未见过的图片上达到95%准确率,这个95%才是可信度量。
限制:不适用于数据科学项目(没有需要评估的模型)、数据量极少无法留出有意义测试集的情况,以及尚未进入建模的探索性分析阶段。失败模式包括用测试集调参、训练集与测试集重叠、测试集分布与真实场景不符。资料指出作者只讲了二分法,实际项目通常还需要开发集/验证集用于调参和模型选择,严肃项目建议引入第二个隐藏测试集。相关技能:ml-workflow(依赖)、statistical-acceptance(组合)。