想象你是以下这类人，你们担忧未来机器人将变得智慧过人，足以威胁到人类自身的存在。多年以来，你都被当成怪人打发走，与那些胡扯说见到猫王潜藏于某处的人归为同类。

 

　　2014年，史蒂芬·霍金（他可以说是全球现存的科学家中最了不起的一位）、前沿的科技实业家伊隆·马斯克说出了他们的担忧，人工智能的崛起潜藏着危险。与他们意见一致的人士还包括哲学家、物理学家及计算机科学家，所有这些人士都大胆发表了看法，即比人类更强大的机器智能的发展会造成严重的风险。

 

　　霍金与麻省理工学院物理学家马克思·泰格马克（Max Tegmark）、诺贝尔奖得主弗朗克·韦尔切克（Frank Wilczek）、计算机科学家斯图亚特·罗素（Stuart Ressell）合写了一篇署名评论文章，该文得到了广泛引用。霍金在文章中表达了对人工智能的忧虑：“可以想象到，人工智能会智胜金融市场，在投资上胜过人类研究者，在操纵民意方面胜过人类领导人，研发出人类甚至理解不了的武器。尽管人工智能的短期影响取决于控制人工智能的人，它的长期影响取决于人工智能到底能否受到控制。”

 

　　据报道，马斯克的看法更加引人注目，他用个人推特账号发布警示，进行长篇论述，称人工智能是人类遇到的最严重的“生存风险”，将它比拟成“召唤魔鬼”。

 

　　最近，关于人工智能的争论由于哲学家尼克·博斯特罗姆（Nick Bostrom）的著作《超级智能：路径、危险与策略》的出版而愈显热烈。博斯特罗姆的著作具体地研究了人工智能为何有可能酿成灾祸，又会如何酿成灾祸（2013年纪实作家詹姆斯·巴拉特（James Barrat）出版的《我们最后的发明》一书表达了相似的观点）。

 

　　博斯特罗姆是牛津大学“人类未来研究所”的所长，该研究所专注于研究人类面临的生存威胁（人工智能是最主要的威胁），是多个类似的新设研究机构之一。2014年5月，麻省理工学院成立了“生命未来研究所”。起码在学术界，对人工智能的忧虑愈来愈多了。

 

　　最迫在眉睫的议题便是人工智能有可能令大量人类失业。在牛津大学教授“未来技术之影响”课程的卡尔·弗雷（Carl Frey）与迈克尔·奥斯本（Michael Osborne）所做的一项研究清楚地表明了情况。他们对超过700份工作进行了分析，其中几乎一半工作在未来都能由电脑来完成。这一波由电脑来取而代之的浪潮不仅能摧毁那些低薪酬、低技能的工作（尽管那些工作确实面临严重的风险），还能摧毁某些白领工作和服务业工作，此前这些工作被认为是安全无虞的。技术正在大步前进，将接过人类的体力劳动和智力工作。

 

　　普遍失业确实是种严重的威胁，可我们早已见识过这一幕。在过往的技术剧变时期，人类聪明地从过时的工作的灰烬中创造出全新的工作与行业。我们也许能幸免于难，逃过一劫，即使人工智能侵蚀更多依赖智慧的创造性行业（哎，我们甚至可能开始更短的工作时间）。

 

　　我们更应该关注的的问题是，人类会不会失去它作为地球上最高智能生命的地位？

 

　　对于那些为人工智能感到焦虑的人士来说，当前研发自我-纠正算法（机器学习）的努力，再加上计算能力的持续增长，传感器无处不在愈来愈多、收集全球各地的各种情报与信息的局面，会推动人工智能逼近人类，并最终成为超越人类的智能。这一事件已经被命名为“智能爆炸”，计算机科学家欧文·约翰·古德（Irving John Good）于1965年在一篇概述了人工智能发展路径的论文中提出了这一术语。

 

　　智能爆炸缘何如此令人担忧？原因在于智能并非工具或技术。我们也许认为人工智能是我们使用的某种东西，就像榔头或螺旋开瓶器一样，但那基本上是错误的想法。那些足够高级的智能――譬如我们人类――是创造性的力量。它的力量越强大，就越能重塑周遭的世界。

 

　　人工智能无需怀有恶意，也能对人类构成灾难性的危险。当计算机科学家们谈论超级聪慧的人工智能可能对人类构成的威胁时，他们并不是指电影中的“终结者”或《黑客帝国》中的“矩阵”。

 

　　相反，更具代表性的会是一种平淡得被授予了简单任务（比方说制造回形针，这是一个常常被用到的例子）的人工智能征用了地球上的所有能源与原材料，永无休止地大量制造回形针，人类试图阻止，但人工智能无论斗智斗勇都胜过了人类。在好莱坞出品的电影中，总是会剩下一些人类实施反击，但假如人类面临的是真正超越人类的智能体，好莱坞版的结局就不太可能成真。局面会像小白鼠企图智胜人类一样（那时的我们就是小白鼠）。如果那种情况发生了，基夫·罗德希尔默（Keefe Roedersheimer）之类的人工智能研究者看到的是不那么令人振奋的大结局：“所有人类都死了。”

 

　　无需多言，并非人人都认同这种灰暗的预测。在人工智能乐观派的阵营里，未来学家、谷歌公司工程总监雷·库茨韦尔（Ray Kurzweil）也预见智慧机器会促成人类某种意义上的“灭绝”，只是按照库茨韦尔的说法，人类没有彻底消失，而是被包容成为超级智能的机器。库茨韦尔的人类-机器共生体并非技术灾难，而是人类从自身生物学弱点中获得最终的解放。

 

　　其他人怀疑人工智能是否会达到人类的智慧程度与认知程度，更勿论超越人类了。有些人――譬如纽约大学的加里·马库斯（Gary Marcus）――就保持中立。“我不知道任何表明我们应该担忧的证据，”马库斯告诉我说，“但也没有任何证据表明我们不应该担忧。”

 

　　欧文·约翰·古德有过一段著名的描述，他把超智能机器的发展形容为“人类需要做的最后一项发明”，因为在超智能机器出现后，人类会把创新与技术研发的工作让给超智能机器这位更为智慧的继任者。即使从Siri出现到人类灭绝并非是一条直线式的发展，我们人类大概还是应该更加严密地盯着点我们的机器。