用途
该技能面向实验与 A/B 测试,目标是帮助设计出统计有效、可执行、可决策的测试。当用户想要规划、设计或实施 A/B 测试或实验,或构建增长实验项目时使用。
主要能力
- 初始评估:先检查是否存在产品营销上下文文件(.agents/product-marketing.md、.claude/product-marketing.md 或旧版 product-marketing-context.md),读取后再提问,只询问未覆盖或本任务特有的信息。设计测试前需理解测试背景、当前状态(基线转化率、流量)和约束(技术复杂度、时间线、可用工具)。
- 核心原则:从假设开始、每次只测一个变量、统计严谨(预先确定样本量、不提前偷看并停止、坚持方法)、衡量重要指标(主指标、次指标、护栏指标)。
- 假设框架:因为[观察/数据],我们相信[改动]会为[受众]带来[预期结果]。当[指标]达到时即可确认。
- 测试类型:A/B(两个版本、单一改动,中等流量)、A/B/n(多变体,更高流量)、MVT(多改动组合,极高流量)、Split URL(不同 URL,中等流量)。
- 样本量参考:提供基线转化率与 10%/20%/50% 提升对应的每变体样本量速查表,并提及 Evan Miller 和 Optimizely 计算器;详细表格见 references/sample-size-guide.md。
- 指标选择:主指标(与假设直接相关、用于判定测试)、次指标(辅助解释)、护栏指标(不应变差,显著负面时停止测试)。
- 变体设计:可改动标题/文案、视觉设计、CTA、内容;最佳实践是单一且有意义的改动、足够大胆、忠于假设。
- 流量分配:标准 50/50、保守 90/10 或 80/20、渐进式从小流量增加;需考虑用户回访一致性、跨时段均衡曝光。
- 实施方式:客户端(JavaScript 加载后修改页面,快速但可能闪烁,工具如 PostHog、Optimizely、VWO);服务端(渲染前确定变体,无闪烁但需开发,工具如 PostHog、LaunchDarkly、Split)。
- 运行测试:提供上线前检查清单(假设、主指标、样本量、变体实现、追踪验证、QA);测试期间应监控技术问题、检查分群质量、记录外部因素,避免偷看结果提前停止、修改变体、引入新流量来源。
- 结果分析:统计显著性(95% 置信度 = p 值 < 0.05)、分析清单(是否达到样本量、是否显著、效应量是否有意义、次指标是否一致、护栏是否恶化、分群差异)、结果解读(显著赢家实施变体、显著输家保留对照并学习、无显著差异需更多流量或更大胆测试、信号混杂需深入或分群)。
- 文档:记录每个测试的假设、变体(含截图)、结果(样本、指标、显著性)、决策与学习;模板见 references/test-templates.md。
- 增长实验项目:实验循环(生成假设、ICE 评分排序、设计运行、分析、将赢家纳入 playbook、从学习生成新假设、重复);假设来源包括分析、客户研究、竞品分析、支持工单、热图/录屏、过往实验;ICE 评分 = (Impact + Confidence + Ease) / 3,每月重新评分;实验速度指标(每月启动 4-8 个、成熟项目胜率 20-30%、平均测试时长 2-4 周、积压 20+ 假设、累计提升);实验 playbook 模板;实验节奏(每周 30 分钟检查运行中实验、双周总结并启动下一个、每月 1 小时复盘速度与胜率、每季度审计 playbook)。
- 常见错误:测试改动太小、测试太多、无清晰假设、提前停止、测试中修改、未检查实现、忽略置信区间、挑选分群、过度解读无结论结果。
使用方式
该技能以指导性流程和模板形式提供,用户可在规划、设计、实施、分析 A/B 测试或构建增长实验项目时调用。具体安装命令、代码或工具集成方式暂未提供。
适用场景
适用于产品、营销、转化率优化等需要以实验验证改动的场景,也适用于希望建立持续增长实验体系的团队。
限制
资料未提供具体收费、价格、平台支持范围或效果保证;样本量速查表仅为参考,实际需使用计算器或详细指南;部分引用文件(references/sample-size-guide.md、references/test-templates.md)内容未在资料中展开。