人们为什么不相信机器运算的结果会是正确的?

algorithms-1024x440

事实和直觉,人类与机器,运算和情感。当我们面临选择,是相信别人的结论?是相信自己的猜测?还是接受运算分析数据的结果?大多数人倾向于选择相信人类,虽然这并不一定是最佳选择。

来自沃顿商学院的行动及信息管理学教授凯德·梅西(Cade Massey)及博士生伯克利·戴特沃斯特(Berkeley Dietvorst),在“天狼星卫星广播公司111频道的“沃顿知识在线”节目中接受了采访,向大家介绍了他们的研究成果,揭示人类的决策背后存在哪些偏见?为什么我们不愿相信计算机给出的答案?尽管机器不一定完美,但我们自己犯错的机率可能会更大。

沃顿知识在线:先帮助我们来回顾一下这个研究是如何产生的?

梅西:这是伯克利的研究,但最初产生一些想法是因为我在数据分析公司工作的经历。我们在做研究和项目咨询的时候,经常会进行一些分析和运算,但当我们将结果反馈给相关机构的时候,却屡屡碰壁,难以影响他们对事务的判断。尽管我们知道,我们有证据,有数据支持,也有更深入的洞察力,但人们却并不愿意接受这样的结论。

……我们知道,人们不喜欢这种由数据得出的结论,但我们却不太理解为什么。当然也不清楚该怎么做才能够让人们更愿意接受这些结论。

沃顿知识在线:你们是如何看待这一切的?

伯克利·戴特沃斯特:最初,我们在想,对那些不喜欢运算的人,我们可以采取做实验的方式。一旦人们了解了运算,并看到自己也可以通过运算来预测,他们就会开始更多地运用这种方式了。但实验开始后,我们才发现事情和我们预计的完全相反。人们在没有看到运算的过程,没看到运算出错的时候,是很乐意接受的。但在实验中,如果人们看到运算出了错误,就不太可能使用和接受运算了。

沃顿知识在线:很有趣,因为……面对数据,绝大部分都是千真万确的,为什么人们还不接受?出于某种原因,运算数据并没有得到人们应有的接纳。

梅西:这正是巴克利真正的研究重点,他的洞察力也为我们指引了方向……人们更容易接受人的主观判断而不是运算结果。没有任何运算是万无一失的。我是说,即使非常非常精确的运算也不是完美的。小的失误是在运算过程中需要克服的现实问题。

沃顿知识在线:为什么会这样,你们分析过吗?

戴特沃斯特:我想,人们之所以看到运算出错后,就不愿应用运算的方法,原因之一是因为一旦人们看到运算出错,就会觉得未来可能还会一错再错,从某种程度上来说,这样想也是正确的。

梅西:但运算的优势之一就是具有连贯性。

戴特沃斯特:这也是为什么我们喜欢这种方式的真正原因之一,前后连贯。

梅西:人们错误地认为,人类不会持续犯错,甚至还会不断改善和提高。但在许多情况下,事实并非如此。相对于计算机来说,人类犯的错误更厉害。

沃顿知识在线:计算机或者运算程序,在面对新数据或程序变化的时候,可以适应和调整,但人类却很难做到。

戴特沃斯特:是的,一方面运算方法可以不断变化,未来还能不断改善。但另一方面人们也应该认识到,完美无暇的预测是不可能的,因为现实世界的许多结果是由偶然因素决定的。因此,即使你这次的预测完全正确,也不可能保证每次都很正确。

梅西:芝加哥大学的一位研究员希利·艾因霍恩(Hilly Einhorn)在他的论文里写过一句很有道理的话,“接受错误,以免犯更多的错误”。你必须接受,你的模型是不完美的。承认这一点,有助于你少犯错,因为人类可能更不完美。

沃顿知识在线:是的。

梅西:我们意识到,而且我们也有证据证明,人们总是追求完美的预测,不愿放弃每次都对的机会,即使根本不可能。

沃顿知识在线:但你的研究里也提到还有经济方面的考虑因素。

梅西:我们有一个有力的推断,但目前证据还不充分。我们推断,具有讽刺意味的是,越是重要的事儿,人们越排斥运算。如果他们不太在意结果,反倒更愿意接受计算机的帮助。例如,美国的超级碗橄榄球赛。谈到比赛的时候,人们会觉得,天哪,我们不能让运算来决定胜负。目前我们有一些类似的证据,但还没有系统地研究过这个问题。

戴特沃斯特:目前我们正在实验室开展这项研究。

沃顿知识在线:有时数据结果与你的预测可能完全相反,出现这种情况显然多少会令人有些诧异,请多和我们分享一下对这种情况的理解。

梅西:最初遇到这种情况的时候,我们显然必须复制数据,确保我们重做实验的时候,也会重现同样的结果。然后我们会寻找其他可以合理解释这一情况的原因。例如,我们确实发现,参与者看到运算过程后,对运算失去了信心。而没有见过运算过程的人可能更有信心。我们开始检查所有的数据,各种迹象表明,正是因为看过了运算过程,人们才不太愿意接受运算的方式。

戴特沃斯特: 这种信心方面的数据非常有趣。人们即使犯错,也不会对自己失去信心。自己犯错时,对自己还是很自信,即使人们在实验中可能比机器错的更多。

沃顿知识在线:你们怎么处理这项研究的相关数据,如何将其应用于现实世界?

梅西:在目前我们所进行的项目中,我们正在探索,如何说服人们使用运算工具,即使他们知道机器也会犯错。我们进行过一些实验,有的人用模型预测,有的人靠自己预测,还有的人可以结合自身判断,对模型的预测结果进行调整,但这样做是有条件限制的。

例如,数据运算给出了一个结果,你可以向上或向下调整5个点。我发现人们喜欢这种方式,更喜欢融入个人的因素。事实上,即使这种方式出错,人们也知道出了错,但却不一定会对这种方式失去信心。因此,只要人们可以参与决策,可以运用自己的判断,他们就会更愿意使用运算工具。

沃顿知识在线:《波士顿环球报》刊出过一篇有趣的文章,介绍了你们的研究。文中提到在挪威餐厅的一个有趣的案例。我想说的是,餐馆不是让斟酒的服务员告诉你什么酒最好喝,而是通过平板电脑来说明。

梅西:为什么你认为人们更能接受通过数据运算推荐的酒,而不是酒保推荐的酒呢?

戴特沃斯特: 我猜他们不太愿意接受。

梅西:你觉得不太会接受,为什么?

戴特沃斯特:是的。如果在你工作的领域里,人们相信人类具备特殊的洞察力,但这是机器所无法理解的,这时人们就很有可能不愿运用数据运算。我是这么想的,但显然我们没有证实过这一点。计算机从来没有品过酒,因此我想人们不会相信计算机给出的结果。

顺便说一句,我猜其实计算机会“品酒”……人们肯定不愿听到这个,但我猜它会。

梅西:如果计算机还没“品过酒”,将来可能会的。

戴特沃斯特:未来会搞明白的。

沃顿知识在线:就好像一扇通往不同探索领域的大门被打开了,让人们看到数据可以影响到现实生活的方方面面。

戴特沃斯特:确实。正因为如此,我们最初就感觉这项研究非常重要,因为这个项目的适用性在不断增加。随着大数据的发展,越来越多的人尝试借助数据运算帮助他们在各个领域做出决策。我们需要更深入地了解,到底是什么能帮助人们克服不相信机器的障碍。

我们开展这项工作的动机之一,就是想深入了解人们对机器的偏见到底有多深,人们多么需要,也多么不易改变这种判断。

沃顿知识在线:显然,偏见是日常生活中经常会出现的问题。

戴特沃斯特:是的,确实如此。有时不一定是选酒或就餐这样的小事,有时可能是退休金储蓄这样的大事。

沃顿知识在线:从你目前的进展来看,这项研究未来可能会朝什么方向发展?

戴特沃斯特:我们发现,让人们融入自己的主观因素,通过自己的判断调整运算结果,他们就会更容易接受和使用运算工具。我们还有一项研究,调查事情重要的程度与人们是否愿意运用运算工具有什么关系。我们还希望将这个项目用于现实世界,组织某个公司的一群专家开展实验,跟踪他们的决策过程。

梅西:从某种程度上来说,当我们作为正常的研究和咨询业务与机构沟通时,有些因素起作用,有些不起作用。现在到处都是应用软件。最近,在网络杂志Slate上有一篇文章,讨论信用评级,总有一些不为人知的因素在评级中发挥作用。现在,有的机构会探寻你的数据印迹,并在信用评级中加入一些辅助的因素。因此,越来越多的运算程序用于这些非常重要的决定,让人们感到不安。

因此,虽然我们希望提高人们的判断水平,但我们必须承认,你可能越线了。人们对此有种天生的恐惧感,这是可以理解的。

沃顿知识在线:我们越来越受到数据的影响。正如你所言,大数据在迅猛发展,未来还会成几何倍数地递增发展。

梅西:是的,我想对我们中有些人而言,对一直提倡用机器运算来提高人类判断能力的人而言,这件事非常重要。我们必须深入了解,如何让人们更接受机器运算。咨询从业人员提出的建议是,保持谦逊,不要高估你的运算方法,必须能够接受专家和主观判断对此的影响。

事实上,我认为保持谦逊是与实验对象沟通时最需要注意的因素。 “你看,我的模型存在缺陷……我知道您有智慧,真正的智慧。”我们需要知道怎么将两者结合起来。

因此,在实验中,伯克利常说我们需要给他们自行斟酌决定的空间。我们会对研究对象说:“这种运算方法可能对您有所帮助,但我们会给您一定的权力去修正运算的结果。”

沃顿知识在线:你是否发现自己在某些情况下更倾向于支持个人的建议,而不是运算的结果?

梅西:(笑了)是的。

戴特沃斯特:我当然也会有本能的思维定式,但由于我做的研究,我会处理好这种思维定式,我会尽量信任数据,信任计算机……但我也和其他人一样都有思维定式。

梅西:伯克利的论文导师同时也是我们在沃顿的合作撰稿人约瑟夫·西蒙斯(Joseph Simons)……他就提倡要避免偏见,要关注文献,以及过去40年来我们对判断偏见的研究。

沃顿知识在线:但这可能是人们最难跨越的障碍:避开偏见,信任数据。对大多数人来说,都不会这么做的。

梅西:是的,我来讲一个我生活中的例子。我和我曾经的一个名叫鲁弗斯·皮博迪(Rufus Peabody)的学生合作,研究橄榄球的排名,就是所谓的梅西—波博迪排名。我们一直在沃顿的“点球成金”栏目中讨论我们的研究成果。排名最初只是涉及专业的橄榄球赛,从排名中你可以预测赛事的未来走向。但我的合作者是一位职业的博彩专家,因此我们总是想拿我们自己的研究结果和市场相对比。

这个故事说起来有点长,却恰好能说明我们所谈论的问题。因为从去年开始,我们第一次在大学橄榄球赛中也引入了梅西—皮博迪排名。德克萨斯队那个赛季的结果有点摇摆不定……

沃顿知识在线:这么说太轻描淡写。

梅西:(笑起来)最初有点摇摆不定,后来就完全出人意料了。我想我们的模型并不是不适合这个比赛,而是太适合了。因此才选择了与俄克拉荷马队的对决战。当时所有关注赛事的德克萨斯队球迷都认为这简直是自取其辱,就像野马队对战海鹰队那样自取其辱。但我们的模型非常支持这种组合,并将其挑选了出来。如果我们不同意市场的观点,我们会说“这是本周我们的选择。”

鲁弗斯在当周早些时候给我写信:“我们的其中一个运算结果是德克萨斯队完败俄克拉荷马队。你知道,人们都不看好他们,都觉得他们会败,但我们并不这么认为。”

沃顿知识在线:但他们还是赢了。

梅西:我还以为他在开玩笑呢,是在故意逗我呢。因为他知道那一年我特别不喜欢德克萨斯队。“这么做坚决不行。”“什么,我们以前从来没有无视过运算模型”。“但模型也从来没有错得这么离谱过啊。”(笑起来)“上帝啊,我们不能选德克萨斯队。”他说:“好吧,听着,我们可以这么做,但我和你打赌,我们两个之间打个赌。”当时我们在网络的工作上花了一些钱,我就说“如果我错了,我来为网站工作买单”。他说“如果他们真赢了呢,真赢了怎么办?”你知道,两者相差14个点,他们完全处于劣势。我预计他们大概会以21比24输掉比赛。于是我说:“好吧,没关系,鲁弗斯,这事儿根本不可能发生,如果他们赢了,你说怎么办?”他说,“我们的排名不再称梅西-皮博迪排名,本周要改为皮博迪-梅西排名,在《华尔街日报》,在我们的网站以及推特帐户上都要做相应的修改。怎么样?如果德克萨斯队赢了俄克拉荷马队,就改名一周。” (笑起来)

结果他们真赢了。因此,那一周发布数据时我们都用“皮博迪-梅西”的名称……我想说的是,在这个例子里,我虽然向人们宣传这个,教这个,甚至是研究这个,但在某些情况下,我还是不相信数据运算。因为这是你自以为非常了解的领域,你觉得自己有很多专业知识,可以超越运算模型。

沃顿知识在线:不管是什么数据,看来有时人们就是不愿放弃对自身知识的信任,这是个很难逾越的障碍。

戴特斯沃特:我同意。即使在某些领域,人们开始学着使用模型或运算工具,但在面临人生的重要决定时,譬如说在医院里,你更相信医生还是计算机告诉你是否需要手术?这时,人们可能就不再像以往那样信任数据了。因此,即使人们从工作中或从某些领域中了解到运算的作用,也许仍不会将这种信任扩展到生活的其他方面。

沃顿知识在线:随着时间的推移,我们对通过运算或计算机获得的数据是不是会越来越信任?

梅西:我想在许多领域,这会成为一种自然而然的现象……亚马逊为我们推荐产品,奈飞(Netflix)公司为我们推荐电影,我们不会对这种推荐结果再三慎重考虑。但此时,正是运算工具告诉我们该做什么,如何预测。因此,我觉得未来这越来越会成为一件自然而然的事情。

戴特沃斯特:我们对推荐的结果不会质疑,但在运用这些推荐意见时还是会斟酌考虑,不会完全依赖于这些意见。

沃顿知识在线:但我们还是可以用这两个例子。我想,如果这些公司以前曾经取得过成功,大家就更容易相信他们提供的信息。

梅西:是的,有跟踪记录。我找到的另一个例子是自驾导航。

沃顿知识在线:全球定位系统。

梅西:这个情况有些不一样,因为……你不会觉得这些信息能带来什么问题……但如果遇到交通事故或改变交通模式,运算信息却可能会出现问题。

沃顿知识在线:我也同意这个观点。因为我也用苹果手机导航—特别是有时我就在离家不远的地方,而我不太能确定路线的时候—我用手机导航,但有时我会觉得“不对,手机告诉我的信息完全不对呀,差五里地,方向也不对呀”。

戴特沃斯特:有意思的是,有时机器对了,而你错了,但你却不会记得这些。

梅西:或者你根本不知道……因为你无法得到与事实相反的佐证。

戴特沃斯特:但如果有一次,导航软件指出的路线太绕路,你却会永远记住。

沃顿知识在线:是的。

梅西:有趣的是,如果你使用导航软件的时间特别长会怎么样?我们的实验都非常顺其自然。我们会给人们10次测试机会,他们会再测试10次。我们会付款,每次大概20分钟左右。随着实验的进展,结果并不坏。但如果你用新的导航软件三到四个月会怎么样呢?会有很多很多的例证吗?

例如Waze地图,你们都用Waze地图吗?我很喜欢用。

沃顿知识在线:我不用。

梅西:这是我们的另一位同事尤里·西蒙索恩(Uri Simosohn)一直推荐的,我认为这是最好的导航软件,在费城就有六千人使用Waze,因此他们可以掌握实时的信息。我妻子一直排斥Waze 地图,但随着成功体验的不断增加,她的这种排斥感也越来越少。现在虽然她还抱怨,但有时我会对她说:“相信Waze就好,相信Waze地图”,而我已经学会了去信任Waze地图提供的信息。

沃顿知识在线:因此,人们对软件等东西是否越来越接受,就要看未来人类对机器运算是否越来越信任?

戴特沃斯特:是的,人们会研发出越来越多的软件,越来越广泛地应用于我们的日常生活,我们甚至不会意识到“是运算工具做出了预测,而我们信任这种结果”。 

沃顿知识在线:人们也不会像过去一样感觉受到了侵扰?

梅西:但我们也希望人们能够更加有意地去接纳机器运算。伯克利和我谈了人们不太愿意接受机器运算的种种现象,但这种情况正在改善。随时间的推移,我们越来越能够接受,希望人们也能够越来越接受它。

戴特沃斯特: 事实上,真正独特的重要决定,就是要放弃掌控的权利。

如何引用沃顿知识在线文章

Close


用于个人/用於個人:

请使用以下引文

MLA

"人们为什么不相信机器运算的结果会是正确的?." China Knowledge@Wharton. The Wharton School, University of Pennsylvania, [11 March, 2015]. Web. [21 September, 2017] <http://www.knowledgeatwharton.com.cn/article/8200/>

APA

人们为什么不相信机器运算的结果会是正确的?. China Knowledge@Wharton (2015, March 11). Retrieved from http://www.knowledgeatwharton.com.cn/article/8200/

Chicago

"人们为什么不相信机器运算的结果会是正确的?" China Knowledge@Wharton, [March 11, 2015].
Accessed [September 21, 2017]. [http://www.knowledgeatwharton.com.cn/article/8200/]


教育/商业用途 教育:

如果您需要重复利用我们的文章、播客或是视频,请填写内容授权申请表.

 

参与讨论

目前尚无评论