人們為什麼不相信機器運算的結果會是正確的?

事實和直覺,人類與機器,運算和情感。當我們面臨選擇,是相信別人的結論?是相信自己的猜測?還是接受運算分析資料的結果?大多數人傾向於選擇相信人類,雖然這並不一定是最佳選擇。

來自沃頓商學院的行動及資訊管理學教授凱德·梅西(Cade Massey)及博士生伯克利·戴特沃斯特(Berkeley Dietvorst),在“天狼星衛星廣播公司111頻道的“沃頓知識線上”節目中接受了採訪,向大家介紹了他們的研究成果,揭示人類的決策背後存在哪些偏見?為什麼我們不願相信電腦給出的答案?儘管機器不一定完美,但我們自己犯錯的機率可能會更大。

沃頓知識線上:先幫助我們來回顧一下這個研究是如何產生的?

梅西:這是伯克利的研究,但最初產生一些想法是因為我在資料分析公司工作的經歷。我們在做研究和專案諮詢的時候,經常會進行一些分析和運算,但當我們將結果回饋給相關機構的時候,卻屢屢碰壁,難以影響他們對事務的判斷。儘管我們知道,我們有證據,有資料支援,也有更深入的洞察力,但人們卻並不願意接受這樣的結論。

……我們知道,人們不喜歡這種由資料得出的結論,但我們卻不太理解為什麼。當然也不清楚該怎麼做才能夠讓人們更願意接受這些結論。

沃頓知識線上:你們是如何看待這一切的?

伯克利·戴特沃斯特:最初,我們在想,對那些不喜歡運算的人,我們可以採取做實驗的方式。一旦人們瞭解了運算,並看到自己也可以通過運算來預測,他們就會開始更多地運用這種方式了。但實驗開始後,我們才發現事情和我們預計的完全相反。人們在沒有看到運算的過程,沒看到運算出錯的時候,是很樂意接受的。但在實驗中,如果人們看到運算出了錯誤,就不太可能使用和接受運算了。

沃頓知識線上:很有趣,因為……面對資料,絕大部分都是千真萬確的,為什麼人們還不接受?出於某種原因,運算資料並沒有得到人們應有的接納。

梅西:這正是巴克利真正的研究重點,他的洞察力也為我們指引了方向……人們更容易接受人的主觀判斷而不是運算結果。沒有任何運算是萬無一失的。我是說,即使非常非常精確的運算也不是完美的。小的失誤是在運算過程中需要克服的現實問題。

沃頓知識線上:為什麼會這樣,你們分析過嗎?

戴特沃斯特:我想,人們之所以看到運算出錯後,就不願應用運算的方法,原因之一是因為一旦人們看到運算出錯,就會覺得未來可能還會一錯再錯,從某種程度上來說,這樣想也是正確的。

梅西:但運算的優勢之一就是具有連貫性。

戴特沃斯特:這也是為什麼我們喜歡這種方式的真正原因之一,前後連貫。

梅西:人們錯誤地認為,人類不會持續犯錯,甚至還會不斷改善和提高。但在許多情況下,事實並非如此。相對於電腦來說,人類犯的錯誤更厲害。

沃頓知識線上:電腦或者運算程式,在面對新資料或程式變化的時候,可以適應和調整,但人類卻很難做到。

戴特沃斯特:是的,一方面運算方法可以不斷變化,未來還能不斷改善。但另一方面人們也應該認識到,完美無暇的預測是不可能的,因為現實世界的許多結果是由偶然因素決定的。因此,即使你這次的預測完全正確,也不可能保證每次都很正確。

梅西:芝加哥大學的一位研究員希利·艾因霍恩(Hilly Einhorn)在他的論文裡寫過一句很有道理的話,“接受錯誤,以免犯更多的錯誤”。你必須接受,你的模型是不完美的。承認這一點,有助於你少犯錯,因為人類可能更不完美。

沃頓知識線上:是的。

梅西:我們意識到,而且我們也有證據證明,人們總是追求完美的預測,不願放棄每次都對的機會,即使根本不可能。

沃頓知識線上:但你的研究裡也提到還有經濟方面的考慮因素。

梅西:我們有一個有力的推斷,但目前證據還不充分。我們推斷,具有諷刺意味的是,越是重要的事兒,人們越排斥運算。如果他們不太在意結果,反倒更願意接受電腦的説明。例如,美國的超級碗橄欖球賽。談到比賽的時候,人們會覺得,天哪,我們不能讓運算來決定勝負。目前我們有一些類似的證據,但還沒有系統地研究過這個問題。

戴特沃斯特:目前我們正在實驗室開展這項研究。

沃頓知識線上:有時資料結果與你的預測可能完全相反,出現這種情況顯然多少會令人有些詫異,請多和我們分享一下對這種情況的理解。

梅西:最初遇到這種情況的時候,我們顯然必須複製資料,確保我們重做實驗的時候,也會重現同樣的結果。然後我們會尋找其他可以合理解釋這一情況的原因。例如,我們確實發現,參與者看到運算過程後,對運算失去了信心。而沒有見過運算過程的人可能更有信心。我們開始檢查所有的資料,各種跡象表明,正是因為看過了運算過程,人們才不太願意接受運算的方式。

戴特沃斯特: 這種信心方面的資料非常有趣。人們即使犯錯,也不會對自己失去信心。自己犯錯時,對自己還是很自信,即使人們在實驗中可能比機器錯的更多。

沃頓知識線上:你們怎麼處理這項研究的相關資料,如何將其應用于現實世界?

梅西:在目前我們所進行的項目中,我們正在探索,如何說服人們使用運算工具,即使他們知道機器也會犯錯。我們進行過一些實驗,有的人用模型預測,有的人靠自己預測,還有的人可以結合自身判斷,對模型的預測結果進行調整,但這樣做是有條件限制的。

例如,資料運算給出了一個結果,你可以向上或向下調整5個點。我發現人們喜歡這種方式,更喜歡融入個人的因素。事實上,即使這種方式出錯,人們也知道出了錯,但卻不一定會對這種方式失去信心。因此,只要人們可以參與決策,可以運用自己的判斷,他們就會更願意使用運算工具。

沃頓知識線上:《波士頓環球報》刊出過一篇有趣的文章,介紹了你們的研究。文中提到在挪威餐廳的一個有趣的案例。我想說的是,餐館不是讓斟酒的服務員告訴你什麼酒最好喝,而是通過平板電腦來說明。

梅西:為什麼你認為人們更能接受通過資料運算推薦的酒,而不是酒保推薦的酒呢?

戴特沃斯特: 我猜他們不太願意接受。

梅西:你覺得不太會接受,為什麼?

戴特沃斯特:是的。如果在你工作的領域裡,人們相信人類具備特殊的洞察力,但這是機器所無法理解的,這時人們就很有可能不願運用資料運算。我是這麼想的,但顯然我們沒有證實過這一點。電腦從來沒有品過酒,因此我想人們不會相信電腦給出的結果。

順便說一句,我猜其實電腦會“品酒”……人們肯定不願聽到這個,但我猜它會。

梅西:如果電腦還沒“品過酒”,將來可能會的。

戴特沃斯特:未來會搞明白的。

沃頓知識線上:就好像一扇通往不同探索領域的大門被打開了,讓人們看到資料可以影響到現實生活的方方面面。

戴特沃斯特:確實。正因為如此,我們最初就感覺這項研究非常重要,因為這個項目的適用性在不斷增加。隨著大資料的發展,越來越多的人嘗試借助資料運算説明他們在各個領域做出決策。我們需要更深入地瞭解,到底是什麼能幫助人們克服不相信機器的障礙。

我們開展這項工作的動機之一,就是想深入瞭解人們對機器的偏見到底有多深,人們多麼需要,也多麼不易改變這種判斷。

沃頓知識線上:顯然,偏見是日常生活中經常會出現的問題。

戴特沃斯特:是的,確實如此。有時不一定是選酒或就餐這樣的小事,有時可能是退休金儲蓄這樣的大事。

沃頓知識線上:從你目前的進展來看,這項研究未來可能會朝什麼方向發展?

戴特沃斯特:我們發現,讓人們融入自己的主觀因素,通過自己的判斷調整運算結果,他們就會更容易接受和使用運算工具。我們還有一項研究,調查事情重要的程度與人們是否願意運用運算工具有什麼關係。我們還希望將這個專案用於現實世界,組織某個公司的一群專家開展實驗,跟蹤他們的決策過程。

梅西:從某種程度上來說,當我們作為正常的研究和諮詢業務與機構溝通時,有些因素起作用,有些不起作用。現在到處都是應用軟體。最近,在網路雜誌Slate上有一篇文章,討論信用評級,總有一些不為人知的因素在評級中發揮作用。現在,有的機構會探尋你的資料印跡,並在信用評級中加入一些輔助的因素。因此,越來越多的運算程式用於這些非常重要的決定,讓人們感到不安。

因此,雖然我們希望提高人們的判斷水準,但我們必須承認,你可能越線了。人們對此有種天生的恐懼感,這是可以理解的。

沃頓知識線上:我們越來越受到資料的影響。正如你所言,大資料在迅猛發展,未來還會成幾何倍數地遞增發展。

梅西:是的,我想對我們中有些人而言,對一直提倡用機器運算來提高人類判斷能力的人而言,這件事非常重要。我們必須深入瞭解,如何讓人們更接受機器運算。諮詢從業人員提出的建議是,保持謙遜,不要高估你的運算方法,必須能夠接受專家和主觀判斷對此的影響。

事實上,我認為保持謙遜是與實驗物件溝通時最需要注意的因素。 “你看,我的模型存在缺陷……我知道您有智慧,真正的智慧。”我們需要知道怎麼將兩者結合起來。

因此,在實驗中,伯克利常說我們需要給他們自行斟酌決定的空間。我們會對研究物件說:“這種運算方法可能對您有所幫助,但我們會給您一定的權力去修正運算的結果。”

沃頓知識線上:你是否發現自己在某些情況下更傾向於支援個人的建議,而不是運算的結果?

梅西:(笑了)是的。

戴特沃斯特:我當然也會有本能的思維定式,但由於我做的研究,我會處理好這種思維定式,我會儘量信任資料,信任電腦……但我也和其他人一樣都有思維定式。

梅西:伯克利的論文導師同時也是我們在沃頓的合作撰稿人約瑟夫·西蒙斯(Joseph Simons)……他就提倡要避免偏見,要關注文獻,以及過去40年來我們對判斷偏見的研究。

沃頓知識線上:但這可能是人們最難跨越的障礙:避開偏見,信任數據。對大多數人來說,都不會這麼做的。

梅西:是的,我來講一個我生活中的例子。我和我曾經的一個名叫魯弗斯·皮博迪(Rufus Peabody)的學生合作,研究橄欖球的排名,就是所謂的梅西—波博迪排名。我們一直在沃頓的“點球成金”欄目中討論我們的研究成果。排名最初只是涉及專業的橄欖球賽,從排名中你可以預測賽事的未來走向。但我的合作者是一位職業的博彩專家,因此我們總是想拿我們自己的研究結果和市場相對比。

這個故事說起來有點長,卻恰好能說明我們所談論的問題。因為從去年開始,我們第一次在大學橄欖球賽中也引入了梅西—皮博迪排名。德克薩斯隊那個賽季的結果有點搖擺不定……

沃頓知識線上:這麼說太輕描淡寫。

梅西:(笑起來)最初有點搖擺不定,後來就完全出人意料了。我想我們的模型並不是不適合這個比賽,而是太適合了。因此才選擇了與奧克拉荷馬隊的對決戰。當時所有關注賽事的德克薩斯隊球迷都認為這簡直是自取其辱,就像野馬隊對戰海鷹隊那樣自取其辱。但我們的模型非常支援這種組合,並將其挑選了出來。如果我們不同意市場的觀點,我們會說“這是本周我們的選擇。”

魯弗斯在當周早些時候給我寫信:“我們的其中一個運算結果是德克薩斯隊完敗奧克拉荷馬隊。你知道,人們都不看好他們,都覺得他們會敗,但我們並不這麼認為。”

沃頓知識線上:但他們還是贏了。

梅西:我還以為他在開玩笑呢,是在故意逗我呢。因為他知道那一年我特別不喜歡德克薩斯隊。“這麼做堅決不行。”“什麼,我們以前從來沒有無視過運算模型”。“但模型也從來沒有錯得這麼離譜過啊。”(笑起來)“上帝啊,我們不能選德克薩斯隊。”他說:“好吧,聽著,我們可以這麼做,但我和你打賭,我們兩個之間打個賭。”當時我們在網路的工作上花了一些錢,我就說“如果我錯了,我來為網站工作買單”。他說“如果他們真贏了呢,真贏了怎麼辦?”你知道,兩者相差14個點,他們完全處於劣勢。我預計他們大概會以21比24輸掉比賽。於是我說:“好吧,沒關係,魯弗斯,這事兒根本不可能發生,如果他們贏了,你說怎麼辦?”他說,“我們的排名不再稱梅西-皮博迪排名,本周要改為皮博迪-梅西排名,在《華爾街日報》,在我們的網站以及推特帳戶上都要做相應的修改。怎麼樣?如果德克薩斯隊贏了奧克拉荷馬隊,就改名一周。” (笑起來)

結果他們真贏了。因此,那一周發佈資料時我們都用“皮博迪-梅西”的名稱……我想說的是,在這個例子裡,我雖然向人們宣傳這個,教這個,甚至是研究這個,但在某些情況下,我還是不相信資料運算。因為這是你自以為非常瞭解的領域,你覺得自己有很多專業知識,可以超越運算模型。

沃頓知識線上:不管是什麼資料,看來有時人們就是不願放棄對自身知識的信任,這是個很難逾越的障礙。

戴特斯沃特:我同意。即使在某些領域,人們開始學著使用模型或運算工具,但在面臨人生的重要決定時,譬如說在醫院裡,你更相信醫生還是電腦告訴你是否需要手術?這時,人們可能就不再像以往那樣信任資料了。因此,即使人們從工作中或從某些領域中瞭解到運算的作用,也許仍不會將這種信任擴展到生活的其他方面。

沃頓知識線上:隨著時間的推移,我們對通過運算或電腦獲得的資料是不是會越來越信任?

梅西:我想在許多領域,這會成為一種自然而然的現象……亞馬遜為我們推薦產品,奈飛(Netflix)公司為我們推薦電影,我們不會對這種推薦結果再三慎重考慮。但此時,正是運算工具告訴我們該做什麼,如何預測。因此,我覺得未來這越來越會成為一件自然而然的事情。

戴特沃斯特:我們對推薦的結果不會質疑,但在運用這些推薦意見時還是會斟酌考慮,不會完全依賴於這些意見。

沃頓知識線上:但我們還是可以用這兩個例子。我想,如果這些公司以前曾經取得過成功,大家就更容易相信他們提供的資訊。

梅西:是的,有跟蹤記錄。我找到的另一個例子是自駕導航。

沃頓知識線上:全球定位系統。

梅西:這個情況有些不一樣,因為……你不會覺得這些資訊能帶來什麼問題……但如果遇到交通事故或改變交通模式,運算資訊卻可能會出現問題。

沃頓知識線上:我也同意這個觀點。因為我也用蘋果手機導航—特別是有時我就在離家不遠的地方,而我不太能確定路線的時候—我用手機導航,但有時我會覺得“不對,手機告訴我的資訊完全不對呀,差五裡地,方向也不對呀”。

戴特沃斯特:有意思的是,有時機器對了,而你錯了,但你卻不會記得這些。

梅西:或者你根本不知道……因為你無法得到與事實相反的佐證。

戴特沃斯特:但如果有一次,導航軟體指出的路線太繞路,你卻會永遠記住。

沃頓知識線上:是的。

梅西:有趣的是,如果你使用導航軟體的時間特別長會怎麼樣?我們的實驗都非常順其自然。我們會給人們10次測試機會,他們會再測試10次。我們會付款,每次大概20分鐘左右。隨著實驗的進展,結果並不壞。但如果你用新的導航軟體三到四個月會怎麼樣呢?會有很多很多的例證嗎?

例如Waze地圖,你們都用Waze地圖嗎?我很喜歡用。

沃頓知識線上:我不用。

梅西:這是我們的另一位同事尤裡·西蒙索恩(Uri Simosohn)一直推薦的,我認為這是最好的導航軟體,在費城就有六千人使用Waze,因此他們可以掌握即時的資訊。我妻子一直排斥Waze 地圖,但隨著成功體驗的不斷增加,她的這種排斥感也越來越少。現在雖然她還抱怨,但有時我會對她說:“相信Waze就好,相信Waze地圖”,而我已經學會了去信任Waze地圖提供的資訊。

沃頓知識線上:因此,人們對軟體等東西是否越來越接受,就要看未來人類對機器運算是否越來越信任?

戴特沃斯特:是的,人們會研發出越來越多的軟體,越來越廣泛地應用於我們的日常生活,我們甚至不會意識到“是運算工具做出了預測,而我們信任這種結果”。 

沃頓知識線上:人們也不會像過去一樣感覺受到了侵擾?

梅西:但我們也希望人們能夠更加有意地去接納機器運算。伯克利和我談了人們不太願意接受機器運算的種種現象,但這種情況正在改善。隨時間的推移,我們越來越能夠接受,希望人們也能夠越來越接受它。

戴特沃斯特: 事實上,真正獨特的重要決定,就是要放棄掌控的權利。

如何引用沃顿知识在线文章

Close


用于个人/用於個人:

请使用以下引文

MLA

"人們為什麼不相信機器運算的結果會是正確的?." China Knowledge@Wharton. The Wharton School, University of Pennsylvania, [11 三月, 2015]. Web. [26 May, 2024] <https://www.knowledgeatwharton.com.cn/zh-hant/article/8202/>

APA

人們為什麼不相信機器運算的結果會是正確的?. China Knowledge@Wharton (2015, 三月 11). Retrieved from https://www.knowledgeatwharton.com.cn/zh-hant/article/8202/

Chicago

"人們為什麼不相信機器運算的結果會是正確的?" China Knowledge@Wharton, [三月 11, 2015].
Accessed [May 26, 2024]. [https://www.knowledgeatwharton.com.cn/zh-hant/article/8202/]


教育/商业用途 教育:

如果您需要重复利用我们的文章、播客或是视频,请填写内容授权申请表.

 

Join The Discussion

No Comments So Far