SuperAPI AI 工具集

experimentation-analytics

数据与分析

查看项目

更新于 10-15 10:17

技能介绍

用途

该技能面向需要解读实验结果的产品经理与数据分析师,用于在阅读实验数据面板、准备做出上线、终止或迭代决策时,提供一套防止自我误导的统计纪律。它假设实验设计已经合理、平台结果面板在技术上是正确的,重点解决“每个数字到底意味着什么、不意味着什么”的问题。

主要能力

技能覆盖以下结果解读内容:

  • 结果面板应包含的信息:包括变体与流量分配、各变体主指标的估计值、置信区间(或贝叶斯可信区间)与样本量、绝对与相对提升、显著性(p 值或贝叶斯最优概率)及其方法论标注、是否应用了方差缩减技术(CUPED、后分层、回归调整)、护栏指标状态、仅针对预注册分群的细分结果、测试状态,以及提升随时间变化的时序图。若面板隐藏这些信息,应先设法呈现,而不是直接上线。

  • 置信区间:被认为是最重要的数字,比点估计和 p 值更重要。技能给出基于置信区间的决策规则:区间同时包含零和一个有意义的正数时数据不足;全为正说明存在真实效应,需评估幅度是否值得实现成本;全为负说明存在真实伤害,应终止;跨越零但很窄,属于真实零结果;跨越零且很宽,则结论不确定。

  • p 值:解释其含义为“在真实效应为零的假设下,观察到当前或更大提升的概率”。明确它不代表处理有效的概率、不代表效应大小、也不代表结果可复制。0.05 截断只是惯例;需与置信区间一起阅读。同时指出窥视问题会直接膨胀 p 值的假阳性率。

  • 多重检验校正:说明多重变体、多指标、多分群、多时间窗口都会无意中引入多重检验;介绍 Bonferroni 校正(控制族错误率,较保守)和 Benjamini-Hochberg 校正(控制错误发现率,更适合探索性分析)。并建议预注册主指标与主分群,其余视为探索性。

  • 序贯检验:从分析角度重述窥视问题:经典检验假设只在测试结束时分析一次,多次窥视会显著抬高假阳性率。介绍 mSPRT(始终有效 p 值)、分组序贯设计、任意时间有效置信区间等方法,并说明若平台不支持序贯检验,应预先承诺单一分析日期。

  • CUPED 方差缩减:利用实验前同一用户的行为减去基线,得到相同点估计但更窄的置信区间,常可缩窄 30% 到 50%,相当于有效样本量大约翻倍。说明其适用与不适用场景,并强调 CUPED 减少的是方差而非点估计;若 CUPED 后提升变小,通常说明未调整的提升被偶然相关抬高了,应更信任调整后的结果。

  • 异质处理效应与分群:解释处理对不同分群效果不同是常见现象,但事后分群发现往往是噪声。建议预注册关注的分群(两三个足够),预注册分群出现显著差异可作为后续跟进的证据,而非直接只对该分群上线的绿灯。事后切分得到的发现应视为后续测试的假设。

使用方式

该技能为解读型指南,不是可执行代码或平台命令。建议在阅读实验结果面板、准备做上线/终止/迭代决策时使用。文中提到平台特定 MCP 命令需查阅所选平台文档;Statsig、PostHog、Optimizely、GrowthBook、Eppo、Amplitude、Kameleoon 等平台都提供丰富的分析界面。技能还引用参考文档,如置信区间速查表、p 值解读指南、统计方法参考等,但资料未提供这些参考文件的具体内容。

适用场景

  • 阅读实验数据面板并即将做出上线、终止或迭代决策。
  • 产品经理与数据分析师需要共享一套不过度简化危险统计部分的词汇。
  • 需要判断结果面板是否属于“黑箱”,是否应导出原始分配与事件数据自行计算。
  • 需要处理实验数字与 BI 数字不一致时的仪表盘对齐问题。

限制

该技能不覆盖实验设计(由相邻的 experiment-design 技能覆盖),也不覆盖功能开关的运维机制(由 feature-flagging 技能覆盖)。它假设实验设计良好、平台结果面板技术上正确。资料未提供具体平台命令、参考文档内容、收费信息或平台价格,这些内容暂未提供。资料未给出该技能本身的安装命令或代码示例。