SuperAPI AI 工具集

ab-test-analyzer

营销与增长

查看项目

更新于 10-19 16:37

技能介绍

A/B Test Analyzer 用于比较两个营销活动变体、判断统计显著性、宣布胜出者,并推荐下一轮测试。

用途 它面向 A/B 分流测试结果分析场景,帮助用户在同一套指标体系中对比变体 A 与变体 B 的表现,避免仅凭单层指标或直觉下结论。

所需输入

  • 变体 A 指标:发送数、打开数、回复数、感兴趣回复数;
  • 变体 B 指标:同上;
  • 两个变体之间的差异(即被测试的变量);
  • 每个变体至少 50 次发送方可进入分析。

指标层级 分析按以下顺序进行,每一层指向不同的问题:

  • 打开率:主题行或发件人名称问题;
  • 回复率:文案或定向问题;
  • 感兴趣率:报价或切入角度问题;
  • 预约会议率:CTA 或资格筛选问题。 测试只对变体产生差异的那一层具有结论性,不能把感兴趣率的差异归因于主题行。

统计显著性指引

  • 每个变体发送量低于 50:不确定,仅记录,不据此行动;
  • 每个变体 50–100 次发送:方向性,视为信号而非证据;
  • 每个变体 100 次以上:具有统计意义,可据此行动。

处理流程

  1. 计算两个变体的全部四项比率;
  2. 识别变体在哪一层产生差异;
  3. 根据发送量确定统计显著性;
  4. 宣布胜出者(低于阈值则判定为“不确定”);
  5. 建议下一轮测试内容,而非重复同一测试。

输出格式(由资料给出) A/B test: [what was tested] Date: [date]

VARIANT A — [description of variant] Sends: [n] | Opens: [n] ([%]) | Replies: [n] ([%]) | Interested: [n] ([%])

VARIANT B — [description of variant] Sends: [n] | Opens: [n] ([%]) | Replies: [n] ([%]) | Interested: [n] ([%])

ANALYSIS Divergence layer: [opens / replies / interest / meetings] Delta: [A vs B difference at divergence layer] Statistical significance: [Conclusive / Directional / Inconclusive] — [reason]

WINNER: [Variant A / Variant B / Inconclusive] Why: [one-line explanation]

NEXT TEST Variable to test next: [what to change] Hypothesis: [what you expect to happen and why]

限制与注意事项

  • 每次只测试一个变量;如果同时改动主题行和文案,就无法归因结果;
  • 不要仅凭打开率宣布胜出者,打开率可能被不带来转化的主题行技巧所操纵;
  • 如果两个变体都处于“淘汰区”(感兴趣率低于 17%),问题在于假设而非变体;
  • 记录每次测试结果,跨测试的模式比任何单次测试更有价值。