如果电脑变得比人更聪明会怎样呢？

你正在网上订一场比赛或大型体育赛事的票，就快要订好的时候恼人的验证码屏幕弹出来，让你在一个方框里输入一些模糊的字母和数字。大多数人都知道，这一步是为了确保你是一个在买票的人，而不是一个非法抢票囤票的电脑程序。

但为什么电脑可以比人更快地算出天文数字，却不能识别一个字母B，或者一张模糊照片里前门上的数字5，就因为它字体复杂又加了删除线吗？为什么连一般二年级学生都能做到的事，电脑就这么容易被迷惑呢？

要想知道答案，就要了解人工智能（Artificial Intelligence, AI）目前的状态，它能做什么，什么是它仍然不能掌握的，我们可能正在向日益智能化的技术飞速发展，但却没有充分思考它对我们自身以及我们的地球造成的影响。这是蒂姆·尔班（Tim Urban）的观点，他在博客Wait But Why中用火柴人叙事，风趣幽默，倍受欢迎，特斯拉汽车（Tesla）首席执行官伊隆·马斯克（Elon Musk）和Facebook首席执行官马克·扎克伯格（Mark Zuckerberg）也是他的粉丝。最近他在麦克纳提领导力项目（McNulty Leadership Program）沃顿名家（Authors@Wharton）系列做了发言。 

乔治·华盛顿和“致死单位”

想象一下你用一个时光机把乔治·华盛顿（George Washington）从1750年带到现在，尔班说道。他提醒观众，在华盛顿的时代“是完全没有电的”。如果你想要去这儿去那儿，就必须走、跑、骑马或者乘船旅行。如果想要交流的话，你可以说话、喊叫、寄信或者放炮。

他描述了如果华盛顿看到我们现在的科技，汽车、飞机，国际空间站，他会怎样呢？你可以告诉他大型强子对撞机和相对论，尔班说道，给他放50年前录制的音乐，“现在他还没见到因特网是什么。我口袋里的长方形魔法师可以施展出无穷的魔法，比如打开地图，用一个不可思议的蓝点标志出我们的方位，”或者让你与地球那一边的日本的某个人对话。

“我觉得乔治·华盛顿不会仅仅感到惊讶或震惊，我认为他会被吓死，”尔班说道。为了实现这种由于时代前进而致死的结果，你需要前进到多远的未来？“我把它叫做‘致死单位’。”虽是戏言，但也不完全是。尔班用致死单位（Die Progress Unit ，DPU）说明了技术进步的速度有多快。它已经从线性发展走到了指数发展，尔班说道。

比如说，如果乔治·华盛顿想对1500年前后的莱昂纳多·达·芬奇（Leonardo da Vinci）做一个相似的时光机试验，把他带到1750年，“我很难不相信达·芬奇会被吓死，”尔班说道。为了制造出这种极度惊吓感，华盛顿需要回到农业革命以前，找一个狩猎采集者把他带到1750年。“这个人以前从来没有在一个地方看到过一大群人。突然间出现了巨大的城市和高耸的教堂，还有远洋轮船。我觉得这个人可能会被吓死。”

此外，尔班还坚信过去200年间的指数级进步令我们的时代与人类历史上其他时代相比都更加与众不同。“DPU单位正在飞速变短。这说明了我们生活在一个不同寻常的时代。”因特网的发明和围绕它产生的所有技术进步只用了短短的25年左右。这对未来意味着什么？

尔班说人们本能地在抗拒世界正在呈指数级变化这种观念。“你可能说‘才不是呢’。人们会有这样的认知偏见，‘没有这种疯狂的事，这种事怎么可能现在发生呢？’”但是尔班说道，根据专家的看法，这种情况正在发生。 

当前AI技术的限制

尔班认为世界呈指数级增长的主要推动因素就是AI技术。AI并不一定就是有些人所认为的机器人，任何能对特定问题做出智能判断或准确预测的软件都可以是AI技术，尔班解释道。智能手机上的大部分应用，例如Siri，都包含人工智能。

而且AI技术的应用正在增加。电脑世界（Computerworld）网站上最近的一篇文章中说道，咨询娱乐和高级驾驶辅助系统等AI装置在汽车中的安装率预计将从2015年的8%上升到2025年的109%。《纽约时报》近期报道“美国已经把人工智能作为国防战略的核心，有些武器可以发现目标并作出决定。”尔班对此评论道，“我们现在生活在一个全面人工智能的世界里。”

但是人工智能显然也有它的限制，它没法完成一些小孩子都能做的简单任务。比如让它区分一只尖耳朵小狗和一只猫时，认识到一幅三维绘图应该代表着一个三维物体，或者识别人脸时，它就会栽跟头。尔班认为著名电脑科学家唐纳德·克努斯（Donald Knuth）总结得很好，“目前AI技术已经可以成功地完成基本上所有需要‘思考’的事情，但却在大多数人类和动物根本‘不需要思考’就能做的事情上失败了。”

专家把现在的人工智能归为“弱人工智能”（ Artificial Narrow Intelligence，ANI），因为它是设计出来用于解决特定类型的问题，并没有达到人类智能的广度。例如尔班说道，潘多拉（Pandora）电台可以根据你的喜好向你推荐你可能喜欢的音乐，但“如果你问它约会的建议，它就会茫然地看着你。”

如果电脑的智能广度超出了它被设定的这项专门任务会怎样呢？尔班认为AI的子集，也就是机器学习正在朝着这个方向发展。AI技术可能会从“弱人工智能”向“强人工智能”（ Artificial General Intelligence，AGI）发展。“它不仅能帮你选音乐，还能帮你在谷歌上搜索，或者帮助航空公司设定机票价格。它什么事都能做。”

尔班说，根据许多专家的看法，如果强人工智能被开发出来，那么第三类人工智能也不会太远，那就是“超级人工智能”（Artificial Super Intelligence，ASI）。这种软件理论上会比人类更聪明。

尔班让观众思考这些技术进步带来的影响。电脑可能最终会站在高于人类的进化阶梯上，就像我们高于黑猩猩一样。人类和黑猩猩的DNA只有少量不同，尔班说道，但我们却是它们绝对的主人。超级人工智能会成为我们的主人吗？“我们不仅做不到超级人工智能做的那些事，而且甚至可能都无法理解它们做的那些事，”尔班说到，比如想象一下你试着对黑猩猩解释你如何建一座摩天大楼。

“想象一下超级人工智能将了解电脑科学，让自己变得更好，重新编码自己的结构，理解纳米技术，还有其他所有帮助它们不断提升自己的事情，太不可思议了，”尔班补充道。很快你就可以让它每小时进化一步，尔班说到。

但是他也警告观众提防人工智能人格化的趋势：想象一下，就像许多电影和书中那样，“机器人变得邪恶，想要接管一切。”这不是它发展的方向，尔班说道。这是人工智能可怕的另一个原因。 

未来：是天堂，还是回形针的世界？

尔班说许多AI专家担心的不是机器会故意背叛我们，而是我们可能会挡了它们的计划，或者变得对它们无关紧要。如果它们的程序编得不好的话，可能会产生一些意外后果。

他描述了一个在AI圈子里经常提到的有趣但却可怕的“回形针情景”。“你有一个AI高科技实验室，像Google X那样，”他说道，“你说，我想让这个AI变得更聪明，自己把自己训练得更聪明。我们对它进行设定，让它用这个原材料，把材料变成回形针。”

然后有一天，它开始变得比人更聪明，尔班说道。它可能不会告诉我们，现在它只关心一件事情：制造回形针。“如果它真的想要制造许多回形针的话，它可能就需要很多原子，包括我们身体里的原子。300年后，整个银河系都是回形针。”

另一方面，一些专家看到了超级人工智能的潜在好处。它或许可以帮助我们解决一些全球问题，例如战争、疾病、贫穷和气候变化。尔班提到AI思想家埃利泽·尤德考斯基（Eliezer Yudkowsky）曾说过这样的话，如果有了这种高级形式的智能，那些看似难以应付的问题就不攻自破了。

许多专家属于“焦虑”型的，尔班说道，他们担心人们没有对我们所创造出来的这些事物的影响予以足够的关注。AI的发展大部分来自初创企业，它们一心想要“获得荣誉，改变世界，改变人性”，尔班指出。“大部分AI 资金都用来创业和开发，并没有用在AI安全上。这种投资对人们没有吸引力。”

我们距离超级人工智能变成现实还有多远？许多专家认为已经很接近了。尔班引用数据说道，专家对高人工智能的预测中值是2040年，超级人工智能是2060年。也就是说距离现在只有45年了，也就是我们的孩子和孙子的那个时代。