【猎云网（微信号：）】6月14日报道（编译：Anna）

围绕人工智能潜在风险的辩论已蔓延至整个科技行业，导致整个硅谷都想了解人工智能带来的不可预测的影响。

扎克伯格认为，他的好友兼硅谷亿万富翁马斯克有点杞人忧天。

马斯克是SpaceX公司和电动汽车制造商特斯拉的创始人，他在电视采访中和社交媒体上向全世界发出警告，人工智能“可能比核武器更危险”。

2014年11月19日，扎克伯格在加州帕洛阿尔托的家中设宴招待马斯克。作陪的有Facebook新成立不久的人工智能实验室的两名顶级研究人员和另外两名公司高管。

吃饭期间，Facebook的团队试图说服马斯克相信，他对人工智能的看法是错误的。但他并没有因此而动摇。参加这次晚宴的Facebook人工智能实验室研究人员Yann LeCun表示：“马斯克当时说‘我真的认为人工智能是危险的’。”

从本质上说，马斯克对人工智能表示担忧的原因其实很简单，就是如果我们创造出比人类更聪明的机器，它们可能会背叛我们。（就像电影《The Terminator》、《The Matrix》以及《2001: A Space Odyssey》里所演的那样）他对整个科技行业说，在人工智能彻底普及之前，请仔细思考我们现在正在研究的人工智能技术未来将会带来怎样意想不到的后果。

之前并没有媒体报道称，马斯克和扎克伯格不会在这次晚宴中详细讨论人工智能的利弊，也没有长时间的争论这方面的问题。

Superintelligence这个词是形容超人工智能技术的突破，表明人工智能已经提升到了更高的一个级别，并产生了不少人工智能机器。这些机器不但能够代替人类执行简单重复的任务（比如无人驾驶汽车），还可以完成一些超出人类能力的任务，就和科幻小说里的一样。然而，围绕人工智能的争论已经蔓延至整个科技行业。

谷歌的4000多名员工最近签署了一份请愿书，抗议该公司与美国国防部签订的900万美元的人工智能合同。这笔收益微薄的交易令该公司的许多人工智能研究人员深感不安。6月1日，谷歌云计算首席执行官Diane Greene试图安抚员工，并表示他们目前的合同将于2019年到期，在那之后，谷歌不会再续签新的合约。

人工智能研究具有巨大的潜力和影响力，它既是经济引擎又是军事优势的来源。中国政府表示，他们愿意在未来几年投入数十亿美元，让中国成为全球领先的人工智能技术国家，而the Pentagon也正在积极寻求科技行业的帮助。一种新型的人工智能武器即将诞生。

各种行业大家们都加入了这场辩论。亚马逊首席执行官Jeff Bezos在加利福尼亚州棕榈泉市举办了一场年度会议，不少来自中部沿海地区的哲学家和科学家们纷纷前来参加。

“现在先忘掉科幻小说里的场景，再来谈谈人工智能带来的风险。”人类未来研究机构（the Future of Humanity Institute）的人工智能项目负责人Allan Dafoe说。人类未来研究机构是牛津大学的研究中心，专门研究先进技术的风险和机遇。

在过去的几个月中，Facebook和其他科技公司已经向公众做了很多宣传工作，旨在提出硅谷的研发技术即将带来的不可预测的风险问题。

四月，扎克伯格花了两天的时间，回答国会议员提出的有关数据隐私和Facebook在2016年大选前传播的误导性新闻问题。就在上月，他在欧洲同样遇到了类似的问题。

Facebook意识到，想要让整个世界改变对人工智能可以造福人类的看法并进行反思是很困难的，不管人们是否真的喜欢它。

即使像微软创始人比尔盖茨和已逝世的斯蒂芬霍金这样有影响的人物也担心过创造出来的机器会比人类更聪明。尽管超人类智能看似还需要发展几十年才能成熟，难道我们不应该趁着事情还不算太晚之前考虑一下这个问题吗？

康奈尔大学计算机科学教授兼贝尔实验室前研究员Bart Selman说：“我们正在研究的人工智能技术是非常强大的，但是我们也无法清楚知道它们可能带来的影响。”

不完善的通讯软件

Pacific Grove是加利福尼亚中部海岸的一个小镇。1975年的冬天，一群遗传学家聚集到了那里互相讨论他们目前的工作（基因编辑）是否最终会危害到全世界。2017年1月，同样的一个人工智能开发团队也在这个小镇上进行了类似的讨论。

在Asilomar酒店举行的那场私人聚会是由Future of Life Institute组织的。参加这次聚会的人都是为了讨论有关人工智能以及其它科技的潜在威胁而来的。

人工智能领域的重量级人物都聚集在这里——其中包括之前在帕洛阿尔托参加晚宴的Facebook人工智能实验室的老板LeCun先生，他曾经帮助开发过人工智能领域中最为重要的工具之一的神经网络。Nick Bostrom同样也参加了晚宴，他在2014年出版的著作《Superintelligence: Paths, Dangers, Strategies》对于人工智能讨论有着非常大的影响。前华盛顿大学计算机科学教授，在西雅图接管了艾伦人工智能研究所的Oren Etzioni也在这一批人之列。领导着DeepMind（Google旗下的具有极大影响力的人工智能研究所）的Demis Hassabis也受邀出席。

当然，也少不了马斯克先生，他在2015年向马萨诸塞州的研究所捐赠了1000万美元。童年，他还帮助建造了一个名为OpenAI独立的人工智能研究所，并为其确立了明确的目标：创造出一个超级智能机器，并要确保其不会失控。这也使得马斯克很明显是与Bostrom先生站在一边的。

读了Bostrom的书之后受益匪浅。我们需要对人工智能保持警惕。它有可能比核武器更危险。

— 埃隆马斯克 (@elonmusk) 2014年8月3日

在休假的第二天，马斯克参加了一个由九人组成的小组，专门讨论超级人工智能的问题。每个小组成员都被问到了人工智能是否能够实现这个问题。直到麦克风传到马斯克手里之前，无论麦克风传到谁的手里，答案都是肯定的。马斯克斩钉截铁的说了不。小礼堂里充满了会心的笑声。所有人都知道马斯克不仅觉得人工智能不太可能实现，甚至还觉得它很危险。

马斯克随后还补充说：“我们目前要么就是走向人工智能的实现，要么就是走向文明的终结。”

在这个座谈会结束之际，马斯克被问及社会该怎样发展才能与人工智能共存。他回答道，我们需要做的是将我们的大脑与超级智能连接起来。几个月后，他推出了一家名为Neuralink的初创公司，并且总共收到了1亿美元的投资。这家公司的目标就是希望通过将电脑与人脑相结合，创造出一种所谓的神经界面。

当然关于人工智能风险的一些警告这几年一直都有被提及。但是提出这些警告的人中几乎没有人有着像马斯克一样的技术信誉。就算有，也很少有人真正的在这方面花费大笔资金和时间。而且可能没有一个人有着像马斯克那样复杂的技术背景。

马斯克在扎克伯格家中的晚宴表示了对人工智能的担忧。几个星期后，马斯克打电话给LeCun，想要知道人工智能资深研究人员的名字，并且这些研究人员可以协助参与特斯拉的无人驾驶计划。

在最近的一次特斯拉财报电话会议中， 马斯克批评了新闻媒体不够关注那些明明可以通过自动技术避免的死亡——对于一个持续警告世界人工智能是具有危险性的人来说这次表态也是意义重大的。马斯克最近还因为公众质疑其公司的财政损失以及担心车辆质量等问题而焦头烂额。

Palm Springs的战斗

在硅谷有这么一句话：我们高估了自己花费三年时间能做的事情，并且低估了自己花费时间可以做到的事情。

2016年1月27日，谷歌旗下的DeepMind实验室推出了一款可以在古老的围棋游戏中击败职业棋手的机器。在几个月前的一场比赛中，名为AlphaGo的机器以五比零击败了欧洲冠军樊麾。

甚至连高级人工智能研究员都认为开发出能够完全解决这个游戏的机器还需要再花上个十年。围棋是很复杂的（可能存在的棋盘位子比宇宙中的原子数量还多），而且最好的棋手赢棋不仅仅是靠纯粹的计算，更是要依靠自身的直觉。在AlphaGo推出前两周，LeCun先生也说要造出这样一个机器几乎是不可能的。

然而就在几个月后，AlphaGo还击败了李世石，过去十年里最棒的一个围棋手。这台机器的棋法让人类专家都感到困惑，而且还最终取得了胜利。

包括DeepMind和OpenAI领导者在内的许多研究人员相信，AlphaGo背后的自我学习技术为“超级智能”提供了一条道路。他们相信，这一领域的进展将在未来几年显著加快。

OpenAI最近“训练”了一个系统并用其来玩赛艇视频游戏，在游戏中研究人员会鼓励它尽可能多地赢得游戏点数。它确实能够持续赢得点数，但是在过程中会不时旋转，或者撞上石头墙以及其它赛艇。

也正是这种不稳定性引起了人们对于人工智能（也包括超级智能）的担忧。

但在今年3月，亚马逊和贝佐斯先生在Palm Springs举办的一个秘密会议上，对于这些担忧的强烈反对数不胜数。

一天晚上，麻省理工学院(Massachusetts Institute of Technology)的机器人学家Rodney Brooks与神经学家、哲学家、播客作者Sam Harris就人工智能的潜在危险展开了辩论。《纽约时报》获得的一段录音显示，这场辩论非常带有个人色彩。

Harris警告说因为现今世界正处于一场人工智能的研发竞赛中，研究员们可能根本没有时间去确保超级智能是在完全安全的情况下被研发出来的。

Brooks则回应道：“这根本就是自己臆想出来的东西而已。” 他暗示Harris先生的论点是基于非科学的推理。这根本不能用来证明人工智能是好是坏——这是对科学家们的侮辱。

“如果他说的有道理，我自然虚心接受。”Harris说道。

一位主持人最终结束了这场辩论争斗，并向观众提问。艾伦研究所所长Etzioni接过了麦克风。“我就不走上台说话了，”他说。但在Brooks的敦促下，他依然走上了舞台，并针对Harris说了三分钟的话。他说当今的人工智能系统开发依旧是如此有限，花这么多时间担心超级智能是没有意义的。

站在马斯克这边的普遍是哲学家、社会科学家、作家——而很少有在人工智能领域工作的研究员，Etzioni说道。在人工智能科学家之中，我们应该开始担心有关超级智能的概念的是其“已经变成一个非常边缘的论点”。

扎克伯格出发去华盛顿

自从三年前两人吃过一顿晚饭之后，扎克伯格和马斯克之间的争论就变的不愉快了。去年夏天，扎克伯格在自家后院录制了一段和妻子在烧烤的Facebook直播视频，视频中他表示马斯克对于人工智能的观点是“非常不负责任的”。

在人工智能还未发展开来的如今就对其产生这样的恐慌会使得很多跟人工智能相关的有利的事情也受到不能发展的威胁，例如自动驾驶汽车和人工智能医疗保护等，他说道。

扎克伯格表示：“我对于人工智能一直保持积极态度，我就是无法理解那些唱反调的人为什么要鼓吹那些末日场景。”

换句话说：你想得太多了，马斯克。放轻松点。

马斯克也用推特进行了回应。“我跟扎克伯格谈过这些，”马斯克写道，“他对于人工智能的理解依然有局限。”

我跟扎克伯格谈过这些，他对于人工智能的理解依然有局限。

——埃隆马斯克 (@elonmusk) 2017年7月25日

今年四月，扎克伯格走上国会参加听证会，解释Facebook将如何解决自己捅的篓子。

其中一个方法就是倚靠人工智能技术。但在他的证词中，扎克伯格承认，科学家们还没有搞清楚某些类型的人工智能是如何进行自我学习的。

他说道：“这对于未来几十年里我们会如何看待人工智能系统来说，会是一个非常核心的问题。现如今就有很多人工智能系统会在远超人类理解能力的基础上做出自我决定。”

科技巨头和科学家可能会嘲笑马斯克在人工智能上畏畏缩缩的态度，但他们似乎正在向他的观点靠拢。

在谷歌公司内部，一个小组正在寻找可以欺骗计算机系统并使人查看不存在的东西的人工智能的缺陷。研究人员警告说，自动生成真实图像和视频的人工智能系统将很快使我们更难相信我们在网上看到的东西。

DeepMind和OpenAI的研究小组如今都开始致力于研究“人工智能安全”问题了。

DeepMind的创始人Hassabis仍然认为马斯克的观点有点极端。并且表示自己的观点与扎克伯格一致。他认为人工智能并没有危险，起码目前没有。但是如今Facebook的问题确实是一项警告。

Hassabis说道：“我们需要利用这段低谷时期，目前所有技术依旧还在控制范围内，因此我们可以提前准备好应对事态变得更为严肃所要做的所有措施。我们目前的时间是很宝贵的，所以我们要更加充分地去利用。”