事實和直覺，人類與機器，運算和情感。當我們面臨選擇，是相信別人的結論？是相信自己的猜測？還是接受運算分析資料的結果？大多數人傾向於選擇相信人類，雖然這並不一定是最佳選擇。
來自沃頓商學院的行動及資訊管理學教授凱德·梅西（Ｃade Massey）及博士生伯克利·戴特沃斯特（Berkeley Dietvorst），在“天狼星衛星廣播公司111頻道的“沃頓知識線上”節目中接受了採訪，向大家介紹了他們的研究成果，揭示人類的決策背後存在哪些偏見？為什麼我們不願相信電腦給出的答案？儘管機器不一定完美，但我們自己犯錯的機率可能會更大。
沃頓知識線上：先幫助我們來回顧一下這個研究是如何產生的？
梅西：這是伯克利的研究，但最初產生一些想法是因為我在資料分析公司工作的經歷。我們在做研究和專案諮詢的時候，經常會進行一些分析和運算，但當我們將結果回饋給相關機構的時候，卻屢屢碰壁，難以影響他們對事務的判斷。儘管我們知道，我們有證據，有資料支援，也有更深入的洞察力，但人們卻並不願意接受這樣的結論。
……我們知道，人們不喜歡這種由資料得出的結論，但我們卻不太理解為什麼。當然也不清楚該怎麼做才能夠讓人們更願意接受這些結論。
沃頓知識線上：你們是如何看待這一切的？
伯克利·戴特沃斯特：最初，我們在想，對那些不喜歡運算的人，我們可以採取做實驗的方式。一旦人們瞭解了運算，並看到自己也可以通過運算來預測，他們就會開始更多地運用這種方式了。但實驗開始後，我們才發現事情和我們預計的完全相反。人們在沒有看到運算的過程，沒看到運算出錯的時候，是很樂意接受的。但在實驗中，如果人們看到運算出了錯誤，就不太可能使用和接受運算了。
沃頓知識線上：很有趣，因為……面對資料，絕大部分都是千真萬確的，為什麼人們還不接受？出於某種原因，運算資料並沒有得到人們應有的接納。
梅西：這正是巴克利真正的研究重點，他的洞察力也為我們指引了方向……人們更容易接受人的主觀判斷而不是運算結果。沒有任何運算是萬無一失的。我是說，即使非常非常精確的運算也不是完美的。小的失誤是在運算過程中需要克服的現實問題。
沃頓知識線上：為什麼會這樣，你們分析過嗎？
戴特沃斯特：我想，人們之所以看到運算出錯後，就不願應用運算的方法，原因之一是因為一旦人們看到運算出錯，就會覺得未來可能還會一錯再錯，從某種程度上來說，這樣想也是正確的。
梅西：但運算的優勢之一就是具有連貫性。
戴特沃斯特：這也是為什麼我們喜歡這種方式的真正原因之一，前後連貫。
梅西：人們錯誤地認為，人類不會持續犯錯，甚至還會不斷改善和提高。但在許多情況下，事實並非如此。相對於電腦來說，人類犯的錯誤更厲害。
沃頓知識線上：電腦或者運算程式，在面對新資料或程式變化的時候，可以適應和調整，但人類卻很難做到。
戴特沃斯特：是的，一方面運算方法可以不斷變化，未來還能不斷改善。但另一方面人們也應該認識到，完美無暇的預測是不可能的，因為現實世界的許多結果是由偶然因素決定的。因此，即使你這次的預測完全正確，也不可能保證每次都很正確。
梅西：芝加哥大學的一位研究員希利·艾因霍恩（Hilly Einhorn）在他的論文裡寫過一句很有道理的話，“接受錯誤，以免犯更多的錯誤”。你必須接受，你的模型是不完美的。承認這一點，有助於你少犯錯，因為人類可能更不完美。
沃頓知識線上：是的。
梅西：我們意識到，而且我們也有證據證明，人們總是追求完美的預測，不願放棄每次都對的機會，即使根本不可能。
沃頓知識線上：但你的研究裡也提到還有經濟方面的考慮因素。
梅西：我們有一個有力的推斷，但目前證據還不充分。我們推斷，具有諷刺意味的是，越是重要的事兒，人們越排斥運算。如果他們不太在意結果，反倒更願意接受電腦的説明。例如，美國的超級碗橄欖球賽。談到比賽的時候，人們會覺得，天哪，我們不能讓運算來決定勝負。目前我們有一些類似的證據，但還沒有系統地研究過這個問題。
戴特沃斯特：目前我們正在實驗室開展這項研究。
沃頓知識線上：有時資料結果與你的預測可能完全相反，出現這種情況顯然多少會令人有些詫異，請多和我們分享一下對這種情況的理解。
梅西：最初遇到這種情況的時候，我們顯然必須複製資料，確保我們重做實驗的時候，也會重現同樣的結果。然後我們會尋找其他可以合理解釋這一情況的原因。例如，我們確實發現，參與者看到運算過程後，對運算失去了信心。而沒有見過運算過程的人可能更有信心。我們開始檢查所有的資料，各種跡象表明，正是因為看過了運算過程，人們才不太願意接受運算的方式。
戴特沃斯特: 這種信心方面的資料非常有趣。人們即使犯錯，也不會對自己失去信心。自己犯錯時，對自己還是很自信，即使人們在實驗中可能比機器錯的更多。
沃頓知識線上：你們怎麼處理這項研究的相關資料，如何將其應用于現實世界？
梅西：在目前我們所進行的項目中，我們正在探索，如何說服人們使用運算工具，即使他們知道機器也會犯錯。我們進行過一些實驗，有的人用模型預測，有的人靠自己預測，還有的人可以結合自身判斷，對模型的預測結果進行調整，但這樣做是有條件限制的。
例如，資料運算給出了一個結果，你可以向上或向下調整5個點。我發現人們喜歡這種方式，更喜歡融入個人的因素。事實上，即使這種方式出錯，人們也知道出了錯，但卻不一定會對這種方式失去信心。因此，只要人們可以參與決策，可以運用自己的判斷，他們就會更願意使用運算工具。
沃頓知識線上：《波士頓環球報》刊出過一篇有趣的文章，介紹了你們的研究。文中提到在挪威餐廳的一個有趣的案例。我想說的是，餐館不是讓斟酒的服務員告訴你什麼酒最好喝，而是通過平板電腦來說明。
梅西：為什麼你認為人們更能接受通過資料運算推薦的酒，而不是酒保推薦的酒呢？
戴特沃斯特： 我猜他們不太願意接受。
梅西：你覺得不太會接受，為什麼？
戴特沃斯特：是的。如果在你工作的領域裡，人們相信人類具備特殊的洞察力，但這是機器所無法理解的，這時人們就很有可能不願運用資料運算。我是這麼想的，但顯然我們沒有證實過這一點。電腦從來沒有品過酒，因此我想人們不會相信電腦給出的結果。
順便說一句，我猜其實電腦會“品酒”……人們肯定不願聽到這個，但我猜它會。
梅西：如果電腦還沒“品過酒”，將來可能會的。
戴特沃斯特：未來會搞明白的。
沃頓知識線上：就好像一扇通往不同探索領域的大門被打開了，讓人們看到資料可以影響到現實生活的方方面面。
戴特沃斯特：確實。正因為如此，我們最初就感覺這項研究非常重要，因為這個項目的適用性在不斷增加。隨著大資料的發展，越來越多的人嘗試借助資料運算説明他們在各個領域做出決策。我們需要更深入地瞭解，到底是什麼能幫助人們克服不相信機器的障礙。
我們開展這項工作的動機之一，就是想深入瞭解人們對機器的偏見到底有多深，人們多麼需要，也多麼不易改變這種判斷。
沃頓知識線上：顯然，偏見是日常生活中經常會出現的問題。
戴特沃斯特：是的，確實如此。有時不一定是選酒或就餐這樣的小事，有時可能是退休金儲蓄這樣的大事。
沃頓知識線上：從你目前的進展來看，這項研究未來可能會朝什麼方向發展？
戴特沃斯特：我們發現，讓人們融入自己的主觀因素，通過自己的判斷調整運算結果，他們就會更容易接受和使用運算工具。我們還有一項研究，調查事情重要的程度與人們是否願意運用運算工具有什麼關係。我們還希望將這個專案用於現實世界，組織某個公司的一群專家開展實驗，跟蹤他們的決策過程。
梅西：從某種程度上來說，當我們作為正常的研究和諮詢業務與機構溝通時，有些因素起作用，有些不起作用。現在到處都是應用軟體。最近，在網路雜誌Slate上有一篇文章，討論信用評級，總有一些不為人知的因素在評級中發揮作用。現在，有的機構會探尋你的資料印跡，並在信用評級中加入一些輔助的因素。因此，越來越多的運算程式用於這些非常重要的決定，讓人們感到不安。
因此，雖然我們希望提高人們的判斷水準，但我們必須承認，你可能越線了。人們對此有種天生的恐懼感，這是可以理解的。
沃頓知識線上：我們越來越受到資料的影響。正如你所言，大資料在迅猛發展，未來還會成幾何倍數地遞增發展。
梅西：是的，我想對我們中有些人而言，對一直提倡用機器運算來提高人類判斷能力的人而言，這件事非常重要。我們必須深入瞭解，如何讓人們更接受機器運算。諮詢從業人員提出的建議是，保持謙遜，不要高估你的運算方法，必須能夠接受專家和主觀判斷對此的影響。
事實上，我認為保持謙遜是與實驗物件溝通時最需要注意的因素。 “你看，我的模型存在缺陷……我知道您有智慧，真正的智慧。”我們需要知道怎麼將兩者結合起來。
因此，在實驗中，伯克利常說我們需要給他們自行斟酌決定的空間。我們會對研究物件說：“這種運算方法可能對您有所幫助，但我們會給您一定的權力去修正運算的結果。”
沃頓知識線上：你是否發現自己在某些情況下更傾向於支援個人的建議，而不是運算的結果？
梅西：（笑了）是的。
戴特沃斯特：我當然也會有本能的思維定式，但由於我做的研究，我會處理好這種思維定式，我會儘量信任資料，信任電腦……但我也和其他人一樣都有思維定式。
梅西：伯克利的論文導師同時也是我們在沃頓的合作撰稿人約瑟夫·西蒙斯（Joseph Simons）……他就提倡要避免偏見，要關注文獻，以及過去40年來我們對判斷偏見的研究。
沃頓知識線上：但這可能是人們最難跨越的障礙：避開偏見，信任數據。對大多數人來說，都不會這麼做的。
梅西：是的，我來講一個我生活中的例子。我和我曾經的一個名叫魯弗斯·皮博迪（Rufus Peabody）的學生合作，研究橄欖球的排名，就是所謂的梅西—波博迪排名。我們一直在沃頓的“點球成金”欄目中討論我們的研究成果。排名最初只是涉及專業的橄欖球賽，從排名中你可以預測賽事的未來走向。但我的合作者是一位職業的博彩專家，因此我們總是想拿我們自己的研究結果和市場相對比。
這個故事說起來有點長，卻恰好能說明我們所談論的問題。因為從去年開始，我們第一次在大學橄欖球賽中也引入了梅西—皮博迪排名。德克薩斯隊那個賽季的結果有點搖擺不定……
沃頓知識線上：這麼說太輕描淡寫。
梅西：（笑起來）最初有點搖擺不定，後來就完全出人意料了。我想我們的模型並不是不適合這個比賽，而是太適合了。因此才選擇了與奧克拉荷馬隊的對決戰。當時所有關注賽事的德克薩斯隊球迷都認為這簡直是自取其辱，就像野馬隊對戰海鷹隊那樣自取其辱。但我們的模型非常支援這種組合，並將其挑選了出來。如果我們不同意市場的觀點，我們會說“這是本周我們的選擇。”
魯弗斯在當周早些時候給我寫信：“我們的其中一個運算結果是德克薩斯隊完敗奧克拉荷馬隊。你知道，人們都不看好他們，都覺得他們會敗，但我們並不這麼認為。”
沃頓知識線上：但他們還是贏了。
梅西：我還以為他在開玩笑呢，是在故意逗我呢。因為他知道那一年我特別不喜歡德克薩斯隊。“這麼做堅決不行。”“什麼，我們以前從來沒有無視過運算模型”。“但模型也從來沒有錯得這麼離譜過啊。”（笑起來）“上帝啊，我們不能選德克薩斯隊。”他說：“好吧，聽著，我們可以這麼做，但我和你打賭，我們兩個之間打個賭。”當時我們在網路的工作上花了一些錢，我就說“如果我錯了，我來為網站工作買單”。他說“如果他們真贏了呢，真贏了怎麼辦？”你知道，兩者相差14個點，他們完全處於劣勢。我預計他們大概會以21比24輸掉比賽。於是我說：“好吧，沒關係，魯弗斯，這事兒根本不可能發生，如果他們贏了，你說怎麼辦？”他說，“我們的排名不再稱梅西-皮博迪排名，本周要改為皮博迪-梅西排名，在《華爾街日報》，在我們的網站以及推特帳戶上都要做相應的修改。怎麼樣？如果德克薩斯隊贏了奧克拉荷馬隊，就改名一周。” （笑起來）
結果他們真贏了。因此，那一周發佈資料時我們都用“皮博迪-梅西”的名稱……我想說的是，在這個例子裡，我雖然向人們宣傳這個，教這個，甚至是研究這個，但在某些情況下，我還是不相信資料運算。因為這是你自以為非常瞭解的領域，你覺得自己有很多專業知識，可以超越運算模型。
沃頓知識線上：不管是什麼資料，看來有時人們就是不願放棄對自身知識的信任，這是個很難逾越的障礙。
戴特斯沃特：我同意。即使在某些領域，人們開始學著使用模型或運算工具，但在面臨人生的重要決定時，譬如說在醫院裡，你更相信醫生還是電腦告訴你是否需要手術？這時，人們可能就不再像以往那樣信任資料了。因此，即使人們從工作中或從某些領域中瞭解到運算的作用，也許仍不會將這種信任擴展到生活的其他方面。
沃頓知識線上：隨著時間的推移，我們對通過運算或電腦獲得的資料是不是會越來越信任？
梅西：我想在許多領域，這會成為一種自然而然的現象……亞馬遜為我們推薦產品，奈飛（Netflix）公司為我們推薦電影，我們不會對這種推薦結果再三慎重考慮。但此時，正是運算工具告訴我們該做什麼，如何預測。因此，我覺得未來這越來越會成為一件自然而然的事情。
戴特沃斯特：我們對推薦的結果不會質疑，但在運用這些推薦意見時還是會斟酌考慮，不會完全依賴於這些意見。
沃頓知識線上：但我們還是可以用這兩個例子。我想，如果這些公司以前曾經取得過成功，大家就更容易相信他們提供的資訊。
梅西：是的，有跟蹤記錄。我找到的另一個例子是自駕導航。
沃頓知識線上：全球定位系統。
梅西：這個情況有些不一樣，因為……你不會覺得這些資訊能帶來什麼問題……但如果遇到交通事故或改變交通模式，運算資訊卻可能會出現問題。
沃頓知識線上：我也同意這個觀點。因為我也用蘋果手機導航—特別是有時我就在離家不遠的地方，而我不太能確定路線的時候—我用手機導航，但有時我會覺得“不對，手機告訴我的資訊完全不對呀，差五裡地，方向也不對呀”。
戴特沃斯特：有意思的是，有時機器對了，而你錯了，但你卻不會記得這些。
梅西：或者你根本不知道……因為你無法得到與事實相反的佐證。
戴特沃斯特：但如果有一次，導航軟體指出的路線太繞路，你卻會永遠記住。
沃頓知識線上：是的。
梅西：有趣的是，如果你使用導航軟體的時間特別長會怎麼樣？我們的實驗都非常順其自然。我們會給人們10次測試機會，他們會再測試10次。我們會付款，每次大概20分鐘左右。隨著實驗的進展，結果並不壞。但如果你用新的導航軟體三到四個月會怎麼樣呢？會有很多很多的例證嗎？
例如Waze地圖，你們都用Waze地圖嗎？我很喜歡用。
沃頓知識線上：我不用。
梅西：這是我們的另一位同事尤裡·西蒙索恩（Uri Simosohn）一直推薦的，我認為這是最好的導航軟體，在費城就有六千人使用Waze，因此他們可以掌握即時的資訊。我妻子一直排斥Waze 地圖，但隨著成功體驗的不斷增加，她的這種排斥感也越來越少。現在雖然她還抱怨，但有時我會對她說：“相信Waze就好，相信Waze地圖”，而我已經學會了去信任Waze地圖提供的資訊。
沃頓知識線上：因此，人們對軟體等東西是否越來越接受，就要看未來人類對機器運算是否越來越信任？
戴特沃斯特：是的，人們會研發出越來越多的軟體，越來越廣泛地應用於我們的日常生活，我們甚至不會意識到“是運算工具做出了預測，而我們信任這種結果”。
沃頓知識線上：人們也不會像過去一樣感覺受到了侵擾？
梅西：但我們也希望人們能夠更加有意地去接納機器運算。伯克利和我談了人們不太願意接受機器運算的種種現象，但這種情況正在改善。隨時間的推移，我們越來越能夠接受，希望人們也能夠越來越接受它。
戴特沃斯特: 事實上，真正獨特的重要決定，就是要放棄掌控的權利。
Join The Discussion
No Comments So Far