A/B测试方法,这才是产品的话语权!

“从现在开始的十年内,当我们回顾大数据时代是如何发展时,我们会震惊于在以往做出决策时信息的匮乏。” -Billy Bosworth (DataStax CEO)

“从现在开始的十年内,当我们回顾大数据时代是如何发展时,我们会震惊于在以往做出决策时信息的匮乏。” -Billy Bosworth (DataStax CEO)

A/B测试方法,最早运用在医疗行业,作为早期测试,判断新药药效的方法,通过分组对照,科学的判断新药物会带来的影响。

而这种测试方法,也被带入到了互联网产品的迭代过程中,在发现了产品新的机会后,通过A/B测试来验证最有效的产品策略。

1468894676-5346-bppg9x3LQAIN1AsicuAeiacDwAcg

为什么使用A/B测试?

环境的不可预见因素,对用户行为理解的偏差,以及对多种方案实际效果的验证,都是进行A/B测试的原因,有效的A/B测试能够给团队带来显著的增效。

1468894677-5307-y1IBia2g7jQTDCqf5iaeYtQFj2eg

在进行A/B测试的时候,需保证单盲测试原则,注意对照组和实验组的目标用户需保持一致性,通过测试后统计的数据情况,例如用户的具体操作行为和体验反馈等,目标操作的点击或任务的完成度是不是提高,来评判测试用例是否起到了作用。

我们可以来看AppAdhoc的一个案例:

1468894681-3869-VHtaTQvxkluCq6yqy7JzkNnRXhAg

1468894680-7634-vWk1LCuvLcLkpVq1shwA0LibicQQ

1468894684-2656-MJBQP1B7xiaUZaJNkl7vM8iaZWUQ

1468894681-2544-YuiaBibvlLIYfTgAm2zkSX5iciaQ

文案的力量也会影响很大,例如:

1468894685-5691-rnrCUQvWzDr91gQcYMPr4R7ykfCg

1468894683-7527-l8v64ae0T0ZvicLbCFZJRq0zgTAg

A/B测试的时机,投入与产出

A/B测试的测试方案应该安排在产品正式推送之前,在现有的用户当中去找出一小波典型用户,均分为两组,布下监测数据点,查看用户真实的操作情况和反馈,小范围的真实用户测试能够带来更加准确的反馈,并且在正式推送之前不会影响到其它未参与测试的用户,不影响产品当前本身的体验,如果发现任何异常,能够快速的撤下,高效便捷。

简单的A/B测试流程:

制定测试方案

在测试之前,编写好测试内容,选定测试对象,明确测试方法,以及预期的测试效果。

发布测试方案

发布测试方案可以选择静默发布和公开发布,通过对方案是否有需要进行选择,往往一些细微的功能调整,例如短文案,小的视觉变更等,或者变更本身不希望主动提示用户去尝试,影响测评结果等。

公开测试可能适合使用在一些创新性的功能或者是较大的功能改版需要对测试用户做出一定的描述让用户能够接受。

记录&分析

了解用户在测试过程中的反应,表情,动作,语言等,对测试对象的一些触发器进行锚点追踪,查看分析用户的使用频率,来界定测试方案是否起到了预期的效果。

撰写分析报告

收集团队成员积累的测试资料,对数据的变化以及用户的反馈进行较为深入的剖析,针对当前的测试版本提供合理的优化意见,并能够让团队的其他人从中获取需要的信息。

完善设计方案

通过分析报告的内容,来对设计方案进行调整,针对测试过程中发现的不足进行优化,并考虑是否进入到下一次的迭代过程中去,撰写迭代方案。

再次测试or上线

大部分的A/B测试只会进行一个周期,只有针对某些特别谨慎,或者是对研发周期限制很少,时间宽裕的团队来说,可能会进行第二次或者是第三次的测试,而大部分都会选择在一次优化后上线,然后将更新需求写入到下一版本的计划当中去。

A/B测试对团队资源占用较大,是在对自查和团队评审后,更加准确的一种测评方法,不会在每一个环节和功能上都去进行尝试,所以在工作中如果去使用,可能就需要根据团队的执行力以及个人的经验作出判断了。

(图片摘自:WAW2016上王晔博士《AB测试基本原理与背后理念》演讲文件)

------------------------------

1468894686-9020-fWQv0giaRwAsN9xvhz57OzsRLhAQ

------------------------------1468894687-2311-bJ7ofaGbUS5ibwPJsXSjlicgiaug

IAMUE网站介绍

IAMUE是一个 专注分享交互设计的干货网站

交互设计师图书导航:http://books.iamue.com/

交互设计必备导航 :http://hao.iamue.com

交互设计讨论群 Ⅰ群:156360020

交互设计讨论群 Ⅱ群:247123791

交互设计讨论群 Ⅲ群:147868955

交互设计讨论群 Ⅳ群:362796793

微博:@IAMUE

------------------------------

交互设计那些事儿-阿西UED编著


1468894687-8323-aNFX3BYItPVvu3gGSj99QJ69icow

《交互设计那些事儿》-签名版

签名版只有天猫有,只有30本限量了  http://share.laiwang.com/s/Shy7s?tm=9d74c2

------------------------------

1468894689-7363-QbTpqg6zZLEVXAH7J1ibXFCS7s3A

长按二维码识别

《交互设计那些事儿》-京东自营
再次感谢你的阅读

 

原创文章,作者:ioued,如若转载,请注明出处:https://www.iamue.com/16534/

(0)
iouedioued
上一篇 2016-07-18 11:05
下一篇 2016-07-19 10:37

相关推荐

  • A/B 测试基础&实例

    什么是A/B测试? A/B测试简单来讲是在两个或多个产品的优化方案中选出最优方案的方法。 例如,期望优化产品的某个特性——通常是期望某项数据提升时,需要对产品某处进行调整。 对此可以提出若干版本,但是现有的理论…

    2016-04-21
  • 阿里云破纪录的背后:377秒是如何炼成的?

    本文来自阿里云“飞天”团队 10月28日,Sort Benchmark官方宣布,阿里云用377秒完成了100TB的数据排序,打破了此前Apache Spark创造的1406秒纪录。在含金量最高的GraySort和MinuteSort两个评测系统中,阿里云分别在通…

    产品运营 2015-11-17
  • 腾讯高级产品经理干货分享:运营就像追妹子,你不仅要活好,还要走心,有耐心

    陈婷婷:互联网运营8年,腾讯高级产品经理,现任QQ空间功能、创新项目运营负责人。 戳下方视频,学习怎样像追妹子一样做好运营? (视频时长共07:48) 千百年来,有一件事男生女生——当然更多的是男生——都会做,那就…

    2016-04-08
  • iOS 9正式版更新:10大新功能提升体验感(全文)

    面对iOS日渐强大的系统应用,第三方工具应用已经不再具备更多的优势可言,如何保持用户粘性并引入更多高效功能是开发团队急需解决的问题。这也让我们看到在如此浮躁的手机行业,还能保持持续优化的良性循环,是用户…

    2015-09-17
  • 《增长黑客》读书总结

    第一章 增长黑客的崛起 关于增长黑客——用数据说话,为初创公司解决用户增长问题 • 增长黑客起源:增长黑客源于硅谷,最早于2010年由Qualaroo的创始人Sean Ellis提出,在2012年Andrew Chen在博客上首次定义增长黑客…

    2015-09-24
  • 设计师应该成为团队中重要的部分

    作为一个设计师,我们总是在工作的时候感到自己缺乏价值和被误解。上司让你在今天的提案会议前赶制些项目上的修改来应付客户,或是客户会要求你移除掉一些他们认为没有必要的设计步骤,最快速地拿到最终方案。 此时…

    2016-05-28
  • 行业最佳实践 | 冷兔:用做产品的思维做表情

    冷兔创意工作室是一个年轻而又注重创意的团队。冷兔的小伙伴们在这里创作好用的聊天表情,构思好笑的漫画,绘制充满想象力的艺术画作,以及制造更多有趣的产品。冷兔创意工作室的核心工作是生产快乐,并通过冷兔来…

    2016-10-26
  • 核心价值观的力量

    [alert_info] 原作者:Bastian Lehmann 英文原文: The Power of Core Values IAMUE作者: 黄韦 [/alert_info]   顺丰确认上市,在这个巨头林立的物流行业,是否还有别的机会呢? 本次给小编大家带来美国同城按…

    2016-02-28
  • 用户行为数据可视化——行为序列图

    一.引子: 作为一名网站的用户研究工作人员,我曾经碰到过以下问题: • 深知服务器日志是一座金矿,但不知道该从哪里开始分析? • 辛辛苦苦盯着电脑一天,看了1000+条日志,越看越晕,看不出规律,找不到方向… • 在…

    2015-12-23
  • O2O寒冬的根本原因:第一个“O”已经没意义了

    2015-11-03 艾瑞网 当下,关于资本市场的寒冬说不绝于耳,各种“死亡名单”、“不投列表”充斥在我们周围。O2O曾经的火热状态也在不断的降温,各种靠烧钱等方式建立起来的平台饱受质疑。 然而,随着客观环境发生巨大变…

    产品运营 2015-11-04