人類為何不相信演算法?以及如何改變這一現狀

 

電腦發明後,在機器不會犯錯誤的理念下,數學模型已被用於輔助或替代人類決策。然而,許多人不願意使用演算法,而是傾向於依靠直覺來進行各種決策。沃頓商學院運營、資訊和決策專業教授凱德·梅西(Cade Massey)、約瑟夫·西蒙斯(Cade Massey)以及芝加哥大學教授伯克利·J·狄伏斯特(Berkeley J. Dietvorst )的新研究(New research)發現,控制是這一問題的關鍵。如果給決策者一個控制模型的措施,他們會更傾向於使用演算法。梅西和西蒙斯在接受沃頓知識線上的採訪中談到這項研究的意義。

訪談文字內容整理如下。 

沃頓知識線上:兩位能不能向我們簡要介紹下這項研究?這篇論文是你們近期研究的最新報告。 

約瑟夫·西蒙斯:我們正在研究一個稱為“演算法厭惡”(algorithm aversion)的現象,這一現象是指儘管有很多研究都指出做出判斷和預測所應依照的根據,但人們做決定時不願意遵循以證據為基礎的特定規則。很多人只是依靠他們的直覺或者權力。他們不想依賴基於證據的一致規則,而其實他們應該這麼做。

我們已經研究了一兩年,探索人們不想依靠這些演算法的原因或具體情況。我們的第二篇論文探討如何讓人們更可能依賴演算法。總的來說我們發現,如果告訴人們,“你可以遵循一個會給你一些建議的演算法,也可以按自己的意見來,”然後問他們,“你打算怎麼做?”他們其實願意說,“我會用這個演算法。

但是,一旦你給他們一些練習,讓他們看演算法如何執行,他們便立即不想再用演算法了。這是因為他們看到演算法犯錯誤。即使演算法或電腦犯的錯誤比人犯的錯誤更小或更少見,人們一旦看到演算法或電腦犯了錯誤,還是就不想再使用演算法。 

沃頓知識線上:演算法應該是完美的。 

西蒙斯:對。人們想讓演算法完美,並期待它們是完美的,即使我們真正想要的只是演算法比人好一點點。我們的第一篇論文略為悲觀,指出一旦人們看到演算法像人一樣犯錯,人們就不想使用。我們的第二篇論文表明,只要你讓人對演算法有一些控制,就能讓他們使用演算法。你說,“這個演算法告訴你這個人的GPA會是3.2。你認為他們的GPA會是多少?”人們不想只採用演算法預測的3.2。但如果你說,“你可以在此基礎上調整0.1”,那麼人們的反應是:“好吧,我可以使用演算法。”我們發現只要你讓人對事情有一點點控制,他們就更有可能使用。這是非常好的消息。 

凱德·梅西:我們在實驗環境下運行這一方法,但我們的動力是真實世界的結果。這項研究的一些早期想法來自與公司的合作,我們帶著用於招聘和雇用新員工的決策模型進到這些公司。基於多年的資料和一些很好的分析,我們確信我們有最好的建議。然而,那些組織不願使用這些模型,因為他們只想依靠直覺。

這在招聘和績效評估中很常見,甚至在一些已經有自動化決策的領域也常見,例如如何管理對沖基金或應該如何對某些產品進行銷售預測。這些地方都有不斷發展的自動生成的預測或建議。我們稱之為演算法。最終決策者可以決定是否採納這些建議,聽從自己的直覺,還是兩者兼用。 

沃頓知識線上:你們的主要收穫是,如果人們有一定的控制,則對使用演算法的厭惡會較少。但得出的一個結論讓你們感到驚訝,必須給人們多少控制才能讓他們感覺好。談談這個結論吧。

梅西:我們不知道必須讓他們有多少控制,才能使他們接受演算法。讓人們有控制的缺點是他們開始降低演算法的作用。在大多數領域中,人不如模型好。他們的意見越多越糟糕。在某種意義上,你希望他們的控制盡可能少,並仍然讓他們使用演算法。我們不知道答案會是什麼。我們早期得到的證據是控制不應該很多; 然後我們開始測試控制的極限,發現我們可以讓人們有一點點控制。大約5%的調整範圍會讓他們更有興趣使用演算法。如果給人們更多控制不會增強使用意願。讓他們有一點點控制,相當於給他們適度的影響。 

西蒙斯:有趣的是當人們調整演算法時,會使演算法變得更差。但如果他們只能調整一點點,就只能使演算法變差那麼一點點。因為人們更可能在這種情況下使用演算法,他們的最終判斷將與接近完美的演算法結果相關。我們不能讓人們完全使用演算法,但我們可以讓他們使用演算法到99%的程度,這就大幅提高他們的判斷。

沃頓知識線上:如果我是一個付費使用這些演算法的企業老闆或個人,我將怎麼在現實生活中運用這項研究? 

梅西:我們學到最關鍵的一點是,不要簡單地強加一個超大模型或黑盒子模型,然後說,“這是你使用判斷的方法。你應該按這個調整決策。”人們會反抗。你要讓他們有自主決定權。這在不同的地方表現方式不同。比如一所研究生院招生,他們對申請人進行排名,然後到某一點劃一條錄取線和定出例外情況。在這過程中他們來回移動申請人的資料。你可以使這一流程自動化。即使你把他們的一些判斷輸入模型,還是可以使用自動化模型來最終得出結論說,“這些是你們應該錄取的人。”

一方面,你可以說,“模型在這。這是它的結論,你接受也好,不接受也好。我們要對這個過程自動化。”你一般會遇到反抗。但是,如果你說,“這是提供參考意見的模型。我們建議您考慮。如果你想進行調整就進行調整。”我們已經與一些學校這樣合作,並發現早期他們有點懷疑。他們在一定程度上依賴模型,隨著時間的推移,他們實際上完全使用了模型,儘管他們有自主決定權自由調整。 

沃頓知識線上:確保人們知道他們有控制,我也認為這個展示很重要。 

西蒙斯:我認為重要的是避免完全採納或完全不採納的理念,比如堅持100%按照演算法。如果人們按你描述的那樣想,他們會反彈。但是如果你可以把說法變成“即使99%的情況下我們將使用演算法,但你可以選擇更改演算法或在某些時候不按照演算法,”這將使人們更容易使用演算法。

關於這一點另一個很重要的情景是自駕車。你可以想像,如果人們對自駕車完全沒有控制權,他們會覺得不自在。但如果你說,“其實,有一件事你可以做。這有點困難和不同尋常,但在有需要的情況下,你可以這樣做來控制汽車。我們發現人們從來不需要使用這個功能,但這個功能確實存在。”我們預測在這種情況下,人們將更願意乘坐自動駕駛的汽車,因為自己有一些控制。自動駕駛儀通常比飛行員更安全,但人們想要一個飛行員在那裏,即使很多飛機失事是飛行員的失誤。這樣人們感覺更好。我認為我們的研究探討了這一點。

沃頓知識線上:新聞故事裏可以運用這項研究的還有哪些? 

梅西:談談選舉預測怎麼樣? 

西蒙斯:好的。去年11月我們的總統選舉震驚世界。有一大群人在根據過去的投票資訊預測選舉結果。最有名的案例可能是為FiveThirtyEight.com撰稿的納特·西爾弗(Nate Silver)。他說,希拉蕊贏的概率是70%,特朗普當選的概率則是30%。但是特朗普贏了。最後有很多人攻擊納特。我們認為他錯了,一部分是因為模型錯了。事實上這不是完全錯誤,因為概率為30%的事件有30%可能會發生。當專家出來說一件事情會發生時,他們得到的批評不會比那種使用統計資料和演算法(人們期望100%正確)的人多。我認為我們在納特事件看到的攻擊與我們之前發現的一致。 

梅西:這又回到我們的第一篇論文,人們對模型和演算法犯錯的容忍度遠遠低於對人犯錯的容忍度。他們對人更寬容。我們已經探討了一點,現實對模型和演算法的標準和要求更高。 

沃頓知識線上:這有意義嗎?人或物沒有一樣是完美的。 

梅西:我們認為人們這樣做的原因有很多。一個是他們認為人們可以隨著時間的推移而改進,而模型則相對固定。這兩點都不一定對。模型可以隨著時間的推移改善,而人不一定會逐漸改進。這種心理其實似是而非。當然會有一些情境,人們比模型改善得多,但我們認為人們這方面的直覺太過了。 

沃頓知識線上:這項研究與同領域其他研究的不同之處在哪 

梅西:我們不是第一個討論模型判斷與人判斷之間的區別。這已經存在了幾十年,模型也已經相當成熟。我們在探索現象背後的原因以及如何解決認知偏差這方面相對較早。

西蒙斯:沒有多少人以前記錄人們不願意使用演算法的原因。有一些零星的非專業研究,有一些關於人們不喜歡這些東西的著作,但沒有人真正系統地看待這個問題。 

梅西:再說回動力。我們的動力在於我們與組織合作,希望他們使用更多的模型,我們需要知道如何打破這種偏見。只有深入理解偏見為什麼存在,才能對症下藥。 

沃頓知識線上:下一步研究是什麼 

梅西:我們會繼續探索一些可能導致人們不願使用演算法的因素,但我們也希望進行更多真實世界的測試。如果我們與涉及自身經濟利益的專業人士合作,他們是否也有同樣的偏見?我們有幫助他們的辦法嗎?我們與一些組織已經談過多次,他們有興趣對員工或客戶進行實驗,看看我們在實驗室得出的結果是否在真實世界發生。

 

如何引用沃顿知识在线文章

Close


用于个人/用於個人:

请使用以下引文

MLA

"人類為何不相信演算法?以及如何改變這一現狀." China Knowledge@Wharton. The Wharton School, University of Pennsylvania, [16 March, 2017]. Web. [26 April, 2017] <http://www.knowledgeatwharton.com.cn/zh-hant/article/9098/>

APA

人類為何不相信演算法?以及如何改變這一現狀. China Knowledge@Wharton (2017, March 16). Retrieved from http://www.knowledgeatwharton.com.cn/zh-hant/article/9098/

Chicago

"人類為何不相信演算法?以及如何改變這一現狀" China Knowledge@Wharton, [March 16, 2017].
Accessed [April 26, 2017]. [http://www.knowledgeatwharton.com.cn/zh-hant/article/9098/]


教育/商业用途 教育:

如果您需要重复利用我们的文章、播客或是视频,请填写内容授权申请表.

 

參與討論

目前尚無評論