用途:面向机器学习系统的 A/B 测试专家技能,用于设计、实施和分析生产环境中的 ML 实验,应对概念漂移、模型偏差、统计功效计算,以及同时衡量业务指标与模型性能指标的难点。
主要能力:强调统计严谨性,要求在实验前定义主次指标、预先计算最小可检测效应(MDE)与所需样本量、对多指标做多重检验校正、选择正确的随机化单位(用户、会话或请求)。ML 特有考量包括同时监控模型指标(准确率、AUC、precision/recall)与业务指标(转化、收入、参与度),纳入推理延迟与计算成本,考虑时间效应与季节性,并处理模型版本管理与可复现性。
使用方式:资料给出样本量计算(calculate_sample_size,基于 ttest_power)、一致性哈希流量分流(ABTestSplitter)、模型服务与预测日志(ABTestModelServer)、贝叶斯分析(PyMC3)、序贯检验与提前停止(O'Brien-Fleming 消耗函数)、漂移检测(KS 检验与 Jensen-Shannon 散度)等代码示例。最佳实践建议用配置文件管理实验参数、完整记录预测、设置性能下降告警、区分开发与生产环境;报告时给出置信区间而非仅点估计,兼顾实际显著性与统计显著性,并做稳健性检查。
适用场景:ML 模型上线前的对照实验、模型版本对比、转化率等指标检验、生产环境模型性能与漂移监控。
限制:资料未提供具体安装命令、依赖版本、收费或平台信息;示例代码需自行补齐导入与运行环境。