如果電腦變得比人更聰明會怎樣呢？

你正在網上訂一場比賽或大型體育賽事的票，就快要訂好的時候惱人的驗證碼螢幕彈出來，讓你在一個方框裡輸入一些模糊的字母和數位。大多數人都知道，這一步是為了確保你是一個在買票的人，而不是一個非法搶票囤票的電腦程式。

但為什麼電腦可以比人更快地算出天文數字，卻不能識別一個字母B，或者一張模糊照片裡前門上的數位5，就因為它字體複雜又加了刪除線嗎？為什麼連一般二年級學生都能做到的事，電腦就這麼容易被迷惑呢？

要想知道答案，就要瞭解人工智慧（Artificial Intelligence, AI）目前的狀態，它能做什麼，什麼是它仍然不能掌握的，我們可能正在向日益智慧化的技術飛速發展，但卻沒有充分思考它對我們自身以及我們的地球造成的影響。這是蒂姆·爾班（Tim Urban）的觀點，他在博客Wait But Why中用火柴人敘事，風趣幽默，倍受歡迎，特斯拉汽車（Tesla）首席執行官伊隆·馬斯克（Elon Musk）和Facebook首席執行官馬克·紮克伯格（Mark Zuckerberg）也是他的粉絲。最近他在麥克納提領導力專案（McNulty Leadership Program）沃頓名家（Authors@Wharton）系列做了發言。 

喬治·華盛頓和“致死單位”

想像一下你用一個時光機把喬治·華盛頓（George Washington）從1750年帶到現在，爾班說道。他提醒觀眾，在華盛頓的時代“是完全沒有電的”。如果你想要去這兒去那兒，就必須走、跑、騎馬或者乘船旅行。如果想要交流的話，你可以說話、喊叫、寄信或者放炮。

他描述了如果華盛頓看到我們現在的科技，汽車、飛機，國際空間站，他會怎樣呢？你可以告訴他大型強子對撞機和相對論，爾班說道，給他放50年前錄製的音樂，“現在他還沒見到網際網路是什麼。我口袋裡的長方形魔法師可以施展出無窮的魔法，比如打開地圖，用一個不可思議的藍點標誌出我們的方位，”或者讓你與地球那一邊的日本的某個人對話。

“我覺得喬治·華盛頓不會僅僅感到驚訝或震驚，我認為他會被嚇死，”爾班說道。為了實現這種由於時代前進而致死的結果，你需要前進到多遠的未來？“我把它叫做‘致死單位’。”雖是戲言，但也不完全是。爾班用致死單位（Die Progress Unit ，DPU）說明了技術進步的速度有多快。它已經從線性發展走到了指數發展，爾班說道。

比如說，如果喬治·華盛頓想對1500年前後的萊昂納多·達·芬奇（Leonardo da Vinci）做一個相似的時光機試驗，把他帶到1750年，“我很難不相信達·芬奇會被嚇死，”爾班說道。為了製造出這種極度驚嚇感，華盛頓需要回到農業革命以前，找一個狩獵採集者把他帶到1750年。“這個人以前從來沒有在一個地方看到過一大群人。突然間出現了巨大的城市和高聳的教堂，還有遠洋輪船。我覺得這個人可能會被嚇死。”

此外，爾班還堅信過去200年間的指數級進步令我們的時代與人類歷史上其他時代相比都更加與眾不同。“DPU單位正在飛速變短。這說明了我們生活在一個不同尋常的時代。”網際網路的發明和圍繞它產生的所有技術進步只用了短短的25年左右。這對未來意味著什麼？

爾班說人們本能地在抗拒世界正在呈指數級變化這種觀念。“你可能說‘才不是呢’。人們會有這樣的認知偏見，‘沒有這種瘋狂的事，這種事怎麼可能現在發生呢？’”但是爾班說道，根據專家的看法，這種情況正在發生。 

當前AI技術的限制

爾班認為世界呈指數級增長的主要推動因素就是AI技術。AI並不一定就是有些人所認為的機器人，任何能對特定問題做出智慧判斷或準確預測的軟體都可以是AI技術，爾班解釋道。智慧手機上的大部分應用，例如Siri，都包含人工智慧。

而且AI技術的應用正在增加。電腦世界（Computerworld）網站上最近的一篇文章中說道，諮詢娛樂和高級駕駛輔助系統等AI裝置在汽車中的安裝率預計將從2015年的8%上升到2025年的109%。《紐約時報》近期報導“美國已經把人工智慧作為國防戰略的核心，有些武器可以發現目標並作出決定。”爾班對此評論道，“我們現在生活在一個全面人工智慧的世界裡。”

但是人工智慧顯然也有它的限制，它沒法完成一些小孩子都能做的簡單任務。比如讓它區分一隻尖耳朵小狗和一隻貓時，認識到一幅三維繪圖應該代表著一個三維物體，或者識別人臉時，它就會栽跟頭。爾班認為著名電腦科學家唐納德·克努斯（Donald Knuth）總結得很好，“目前AI技術已經可以成功地完成基本上所有需要‘思考’的事情，但卻在大多數人類和動物根本‘不需要思考’就能做的事情上失敗了。”

專家把現在的人工智慧歸為“弱人工智慧”（ Artificial Narrow Intelligence，ANI），因為它是設計出來用於解決特定類型的問題，並沒有達到人類智慧的廣度。例如爾班說道，潘朵拉（Pandora）電臺可以根據你的喜好向你推薦你可能喜歡的音樂，但“如果你問它約會的建議，它就會茫然地看著你。”

如果電腦的智慧廣度超出了它被設定的這項專門任務會怎樣呢？爾班認為AI的子集，也就是機器學習正在朝著這個方向發展。AI技術可能會從“弱人工智慧”向“強人工智慧”（ Artificial General Intelligence，AGI）發展。“它不僅能幫你選音樂，還能幫你在穀歌上搜索，或者幫助航空公司設定機票價格。它什麼事都能做。”

爾班說，根據許多專家的看法，如果強人工智慧被開發出來，那麼第三類人工智慧也不會太遠，那就是“超級人工智慧”（Artificial Super Intelligence，ASI）。這種軟體理論上會比人類更聰明。

爾班讓觀眾思考這些技術進步帶來的影響。電腦可能最終會站在高於人類的進化階梯上，就像我們高於黑猩猩一樣。人類和黑猩猩的DNA只有少量不同，爾班說道，但我們卻是它們絕對的主人。超級人工智慧會成為我們的主人嗎？“我們不僅做不到超級人工智慧做的那些事，而且甚至可能都無法理解它們做的那些事，”爾班說到，比如想像一下你試著對黑猩猩解釋你如何建一座摩天大樓。

“想像一下超級人工智慧將瞭解電腦科學，讓自己變得更好，重新編碼自己的結構，理解納米技術，還有其他所有幫助它們不斷提升自己的事情，太不可思議了，”爾班補充道。很快你就可以讓它每小時進化一步，爾班說到。

但是他也警告觀眾提防人工智慧人格化的趨勢：想像一下，就像許多電影和書中那樣，“機器人變得邪惡，想要接管一切。”這不是它發展的方向，爾班說道。這是人工智慧可怕的另一個原因。 

未來：是天堂，還是迴紋針的世界？

爾班說許多AI專家擔心的不是機器會故意背叛我們，而是我們可能會擋了它們的計畫，或者變得對它們無關緊要。如果它們的程式編得不好的話，可能會產生一些意外後果。

他描述了一個在AI圈子裡經常提到的有趣但卻可怕的“迴紋針情景”。“你有一個AI高科技實驗室，像Google X那樣，”他說道，“你說，我想讓這個AI變得更聰明，自己把自己訓練得更聰明。我們對它進行設定，讓它用這個原材料，把材料變成迴紋針。”

然後有一天，它開始變得比人更聰明，爾班說道。它可能不會告訴我們，現在它只關心一件事情：製造迴紋針。“如果它真的想要製造許多迴紋針的話，它可能就需要很多原子，包括我們身體裡的原子。300年後，整個銀河系都是迴紋針。”

另一方面，一些專家看到了超級人工智慧的潛在好處。它或許可以幫助我們解決一些全球問題，例如戰爭、疾病、貧窮和氣候變化。爾班提到AI思想家埃利澤·尤德考斯基（Eliezer Yudkowsky）曾說過這樣的話，如果有了這種高級形式的智慧，那些看似難以應付的問題就不攻自破了。

許多專家屬於“焦慮”型的，爾班說道，他們擔心人們沒有對我們所創造出來的這些事物的影響予以足夠的關注。AI的發展大部分來自初創企業，它們一心想要“獲得榮譽，改變世界，改變人性”，爾班指出。“大部分AI 資金都用來創業和開發，並沒有用在AI安全上。這種投資對人們沒有吸引力。”

我們距離超級人工智慧變成現實還有多遠？許多專家認為已經很接近了。爾班引用資料說道，專家對高人工智慧的預測中值是2040年，超級人工智慧是2060年。也就是說距離現在只有45年了，也就是我們的孩子和孫子的那個時代。