专业成就职业
今天我们讲的重点是“反转”两个字,不过,这个反转不是大家日常所见到的那种“剧情反转”,而是我们作为产品经理经常需要做的“反转实验”。
什么是反转实验?
反转实验是指当我们做一个AB实验的某个实验组指标胜出并上线(注意一定是全量上线)后,为了观测该组策略/功能更长期的收益和影响,会在对照组中抽一部分流量再开一个AB实验,这就是AB实验。
所以我们为什么要做反转实验?
这里面有几个关键原因
01 跨周期指标不能简单累加计算
像ctr,cvr,uv价值这些指标,其实我们只需要统计一个周期内的数据累加,然后进行计算即可。但是有些指标不行,比如留存类指标,我们是不能只依赖于一个周期简单进行累加统计。
假设上图是我们做的一个拉新实验提取的新用户增量数据,很明显,如果我们去看2019年11月27日拉新的90日留存,那差不多需要等到2020年2月底才能得到其90日留存的指标值,其他同理。
所以针对这种情况,我们只能适当的延长实验时间用于观察长期指标收益。
02 产品迭代,业务增长比较快,收益不准确
通常在业务初期,产品形态的迭代和业务的发展比较快,因此,我们拿7天的AB实验结论其实很难代表长期的收益,所以此时我们同样需要增加反转实验进而去把控新策略带来的长期收益。
综上,业务的快速迭代,AB实验的观测时间有限,往往经短期实验验证得到正向结论后就会全量发布,然而短期内的正向结果不足以评估长期收益,因此反转实验日渐成为AB实验评估的必要环节,能用来长期观测重要功能/策略上线后,其关键指标的提升是否仍然符合预期、是否会带来其他负面影响。
建议所有要全量上线的实验都开一个小流量反转,以便能够更客观的衡量新策略和功能带来年的收益。
先进行AB实验验证策略的有效性,得到显著结论推全
从上个AB实验的对照组中抽取一部分流量 在新的流量层设置一组新的AB实验。注意此时,新策略为对照组,原策略为实验组,这其实计算反转这这个名字的来源。
经过长期观察之后,如果指标趋势趋于稳定,便可以停止反转实验。
那么以上就是反转实验的全部介绍。如果你还想深入学习更多的策略产品知识,或者想要转行策略产品经理,到一个壁垒比较高的方向,欢迎来到我的训练营,目前36期进行中,持续4年多,offer效果值得信赖,全程1对1指导,项目落地,解决求职问题,可随时报名,随时开课,4年的持续陪跑,内容和服务持续迭代。
有意报名联系文末小助理。公众号回复【试听】,可以试听训练营知识课+直播课。每期人数有限,亲自带课,精力有限,保证质量。
1. 想要从从b端、c端,数据产品经理,运营,数据分析等转行策略方向的产品经理,策略产品目前是一个蓝海赛道,同级别薪资最高的产品方向。
2. 本身是策略产品经理,想要学习大厂成体系的方法论,随时获得工作和晋升指导。
3. 企业业务运营人员,作为流量分发的核心场景,很多时候需要同搜索推荐团队打交道,因此想要通过策略的学习提高工作推进的效率。
往期部分offer效果呈现:
报名联系小助理