【智能与法】Joseph D . Ebhardt： 超人工智能的威胁

B D A I L C 

 欢 迎 关 注 

Martin Bullivant

超人工智能的威胁

文 / Joseph D . Ebhardt    

译 / 姜开锋

人工智能的未来前景不容否认。然而，关于未来究竟会带来什么，还存在很多争论。有些人畅想了一个乌托邦式的图景——机器治愈了所有的疾病，消除了贫困，并开创了一个前所未有的和平时代。其他人的设想则比较悲观，他们预言会有一个反乌托邦的未来——机器智能远远超过我们自己，变得无法控制。技术和科学方面的许多知名人物——最著名的是微软创始人比尔ž盖茨、特斯拉和SpaceX创始人埃隆ž马斯克以及世界知名物理学家斯蒂芬ž霍金——持中间观点，他们表达了对先进人工智能的危险性的担忧，同时也承认其具有极大的潜在价值。为了实现这些价值，在人工智能发展的重要节点上，必须优先考虑安全性。

近年来，人工智能迅速发展，已成为我们生活中日益重要的一部分。以前在科幻小说中出现的自动驾驶汽车，现在正处于大型汽车制造商以及诸多其他技术公司的积极研发之中。特斯拉汽车已经拥有了半自动驾驶功能，谷歌的全自动驾驶汽车在道路上行驶的里程也已经超过了1,500,000英里，并计划在2020年前上市销售。如果你有一部智能手机，那么它很可能具备这样的功能：你可以用语音的方式来询问天气情况或者昨晚红皮队（Redskins）的比赛得分。一些企业甚至已经开始用聊天机器人为客户提供全天候7×24小时的咨询服务。国家科学技术委员会（National Science and Technology Council，NSTC）在有关人工智能前景的报告中指出，该领域近年来取得了显著进展，而且由于工业投资的增加，这一进展可能将持续下去。

鉴于目前的人工智能产品在使用中表现得相对温和，你或许会怀疑这一技术有可能导致有些人所预言的反乌托邦的未来。然而，人工智能研究者埃利泽ž尤德科夫斯基（Eliezer Yudkowsky）在其关于风险判断的论文中提出了这样的一个观点：人们不会从今天的有限风险推想到未来潜在的巨大风险。实际上，引发人们担忧的人工智能的类型与当前使用的人工智能类型完全不同。

人工智能可以划分为两大类：弱人工智能和强人工智能。弱人工智能的功能比较有限，只能完成特定的任务。目前存在的所有形式的人工智能均属于这一类。例如，Apple的语音助手Siri可能会让用户误以为他们的智能手机中存在真正的智能，但Siri其实只能以程序员预先设定的方式做出回应。她没有意识，也不能为自身考虑。相比之下，强人工智能是有意识的，可以独立思考。哲学家约翰ž塞尔（John Searle）在其名作《思想、大脑和程序》（Minds, Brains, and Programs）一文中，很好地总结了这一区别：“有了强人工智能，计算机就不仅仅只是研究思想的工具；相反，经过适当编程的计算机自身就是一个思想源。”简而言之，弱人工智能模仿人的大脑，而强人工智能本身就是一个大脑。

强人工智能（亦称artificial general intelligence，AGI）研发成功之后，超人工智能（artificial superintelligence，ASI）将随之出现。两者相较，强人工智能在执行智力任务时可以达到至少与人类同等的水平，而超人工智能在执行这些任务时将远远超出人脑所能达到的水平上。快速发展的超人工智能将迅速超越我们的控制能力所及范围，这是人工智能所带来的最严重的威胁。