过去5年来，

人工智能在环球范围内爆发式发展，

根据麦肯锡环球研究院的预测，

AI带来的社会革命，

将比工业革命的速率快10倍，

规模大300倍，

影响险些大3000倍。

《斯坦福2019年度环球AI指数报告》指出，

从2012年开始，

AI算力的提升速率已超过摩尔定律的预测，

均匀每3.4个月翻一番。

人工智能何时将超过人类？

人类会被AI取代吗？

智人仅仅是新一轮进化的出发点吗？

谁会由于AI失落业，谁又会永生不老？

数百万“超人类”已经存在于我们身边？

……

最近出版的《AI的25种可能》一书，

凑集了全天下最聪明的25颗大脑，

他们中有物理学家、生物学家、

打算机专家、哲学家、生理学家、艺术家，

有诺贝尔奖得到者，

也有人工智能的理论和技能奠基人。

他们预测了AI发展的各类前景，

也警示了AI给人类带来的各类寻衅：

“进步未必一定给我们带来美好的未来，

危险不在于机器变得像人类，

而是人类变得像机器。
”

编辑 石鸣

Edge的创始人约翰·布罗克曼和他的妻子 拍照：Ogata

Edge号称全天下最聪明的网站。
这个网站凑集了进化生物学、遗传学、打算机科学、神经学、生理学、宇宙学和物理学等诸多学科最前沿、最顶尖的研究者，每年选出一个“年度问题”谈论，坚持了20年。

2016年，Edge提出的年度问题是“可能的心智”。
谈论从美国康涅狄格州华盛顿的五月花格瑞斯酒店的一次圆桌会议开始，之后又有多次研讨会。
Edge网站创始人约翰·布罗克曼向参加者约稿，终极收到25篇文章，搜集成我们本日看到的这本书。

《AI的25种可能》一书的撰稿者们

“我们人类作为一个物种，真的有能力掌握具有完备意识、不受监管、能自我完善的人工智能吗？”布罗克曼问道。

我们曾经把大脑比作打算机，互联网出身后，我们才创造，大脑不是一台打算机，而是一个打算机网络。
基于对人类神经网络的仿照，过去十年，人工智能变得越来越“靠近”人类，如果有一天，人工智能比我们更“精良”，我们该怎么办？还是说，那一天实在已经到来？

实际上，最近几年我们一贯听到AI替代人类的。
2017年，李开复在《奇葩大会》上预测未来十年50%的事情将被人工智能取代。
重复性的事情，如客服、收银员等等，已经开始全方位沦陷。
创造性的事情也频频传来噩耗：

2015年，美联社利用机器人写作，年宣布量超过15亿条，领域涉及金融、房地产、体育等。

2016年里约奥运会，今日***机器人13天内撰写了457篇宣布，每天30篇以上，发稿速率险些与电视直播同时。

2017年8月9日，四川九寨沟发生7.0级地震，机器人25秒出稿，共540字并配发4张图片。

2018年，第一部AI撰写的长篇小说《路》（The Road）出身并推向市场。
此前，AI已经可以写短篇小说，诗歌和剧本。

2019年，虚拟偶像洛天依在演唱会上与郎朗同台

同年，第一张人机互助创作的盛行音乐专辑《Songularity》出身，此前已经有AI创作的单曲，AI创作的音乐变得越来越多。

商用客机巨子空中客车公司利用人工智能而非人类设计师来设计飞机，制药巨子葛兰素等公司利用人工智能来进行药物研发，完成得比人类研究员更好。

2019年，AI已经可以拍电影，是一部黑白科幻短片《走神》（Zone Out）。
剧本、导演、演出、配乐等一整套制作程序，大部分都由人工智能完成，做出来只花了两天。

《走神》剧照

在斯坦福发布的《2019年度AI指数报告》中，有一个“人类级表现里程碑”（Human-LevelPerformance Milestones）的清单。
今年，AI又完成了两项新的里程碑：在《星际争霸2》中击败顶级人类专业玩家，以专家级的准确性检测糖尿病视网膜病变。

科学家们曾经自傲地流传宣传，我们不用担心机器的深度学习能力的威胁，虽然AI已经有了长足的发展，但是机器人“还是不会系鞋带”。

然而，根据有名创投契构CB Insights 2019年的报告，牛津大学和耶鲁大学的研究职员认为到2022年（对，便是两年后），AI会比人类叠衣服叠得更好。

“在过去10万年里，全体天下一贯处于人脑管理之中。
一旦我们拥有超人类的人工智能，人类大脑的管理时期就将结束。
环顾四周，你见证了千百年来人类大脑管理天下的末了几十年。
”物理学家扬·塔里安在这本书中写道。

《西部天下》剧照

美剧《西部天下》还在谈论，人该当把机器人当人。
然而，加州大学伯克利分校人工智能研究实验室的创立者安卡·德拉甘提出，我们现在面临的最急迫的问题是要让机器人把人当“人”，而且一开始就要这样做，“而不是事后再考虑这件事”。

人类会被自己创造的产物——人工智能反噬吗？本书中，不止一位专家提到关键的一点：一定要让人工智能的目标和代价体系，与人类保持同等。

在物理定律中，没有事先设定的意义，但是为了使人类的未来走向美好而不是阴郁，我们该当给自己授予意义。

下面，我们从书中精选了10个人的预测，听听他们都说了些什么：

弗兰克·维尔切克，2004年诺贝尔物理学奖得主

本日的人类，大概只是未来更强大的智能生物的一个进化出发点。

人工智能会故意识吗？人工智能会有创造力吗？人工智能会是邪恶的吗？

基于生理生理学、神经生物学和物理学，答案如果不是“是”、“是”和“是”，那将是非常令人惊异的。

缘故原由很大略，但也很深刻：根据这些领域的证据，自然智能和人工智能之间，极有可能没有明显的鸿沟。

乃至我们可以推论出，自然智能不过是人工智能的一个特例。

人类大脑目前和人工智能比较具有的上风：三维、自我修复、神经元的连接能力、脑细胞的交互式发育、觉得器官的集成。

三维、自我修复这两项能力，对付AI来说并不难，现在已经有了明确的提高道路。
觉得器官的集成方面，人类的感知能力——视觉、听觉、触觉等——远没有达到任何物理极限，在这方面，机器人可以移动更快、身体更强。

以是人类剩下的最核心的上风是连接性和交互式发育。
当今的工程技能和神经元及其突触的力量和多样性比较，可以说是差远了。
这可能成为一个新的、伟大的研究前沿。

人工智能赛过自然智能的上风是永久的，而自然智能拥有的上风彷佛只是暂时的。
进化的先锋将是机器人和超级头脑，而不是微不足道的智人。

未来的人类，转头看本日的我们，可能会以为我们是他们“精神的开山祖师鸟”。
开山祖师鸟是一种崇高的动物，它能进化成更高等的生物。

迈克斯·泰格马可：麻省理工学院未来生命研究所所长

参不雅观完伦敦科学博物馆，他在地铁站流下了眼泪：所有这些人类取得的令人印象深刻的科技进步，难道都将归于一场空吗？

从物理学家的角度来看，没有任何物理定律表明人类不能制造出在任何方面都比我们具有更高等智能的机器。

根据最近的一项调查，一半以上的人工智能专家认为AI有90%的可能性在2075年达到总体人类能力。
在达到人类能力之后，它将在2年（10%的专家认为）到30年（75%的专家认为）内实现超级智能。

我们的宇宙出身138亿年后，开始有了自我意识。
从数十亿年的宇宙角度来看，究竟30年还是300年后实现通用人工智能险些没什么差异，以是让我们把重点放在含义上，而不是韶光上。

我们必须自问：我们希望创造什么样的社会？我们生活的意义和目的在哪里？对付这个问题，我常常会得到以下奥妙的回答：“让我们创造出比我们更聪明的机器，然后让他们找到答案！
”

这种回答缺点地把智力与道德等同起来。
智力没有善恶之分，它只是一种完成繁芜目标的能力，无论这个目标是好的还是坏的。
我们不能断定如果希特勒更聪明的话，情形就会更好一些。

事实上，如果我们先把比人类更聪明的机器制造出来，再考虑它们的道德问题，这是不负任务的，也是灾害性的。
为建筑大坝，进行水力发电，须要淹没蚁丘，人类不会对蚂蚁的命运反复三思，以是我们在发展人工智能时，不要把人类置于蚂蚁的位置。

如果我们的技能超越了我们管理技能的聪慧，那么这样的技能可能导致人类灭绝。
据估计，地球上20%至50%的物种灭绝便是源于此。
如果我们人类是下一个因此灭绝的物种，那可是够讽刺的。

乔治·丘奇：哈佛大学教授，人类基因最早的编辑者之一

未来什么样的人可以算作“人”？机器人如果故意识，是不是也该当有权利？

1978年，天下首例试管婴儿路易斯·布朗出身之前，许多人担心她“可能是个小怪物，在某些方面，可能是畸形”。
但本日关于体外受精，很少有人有这种担心。

全天下有超过2300项经批准的基因治疗临床试验正在进行中。
常日须要几个月韶光才能发生的过程，现在在实验室通过利用精确的转录因子配方在4天内就能发生。

我们能创造出这样的大脑，它具有越来越高的保真度，人工大脑器官超过了以前的亚微升限定，可能超过现在的1.2升当代人脑，乃至超过大象的5升大脑或抹喷鼻香鲸的8升大脑。

我们认为永久不会超过的鉴戒线现在彷佛离我们越来越近，也越来越猖獗。
人类与机器之间的界线变得模糊，机器变得更像人类，人类也变得更像机器。
我们越来越盲目地遵照GPS脚本、反射式推特和精心设计的营销。

在遗传学领域，鉴戒线使我们禁止或避免利用转基因食品，但我们却可以接管改造了基因的细菌来制造胰岛素，或者接管转基因人类——欧洲已批准将线粒体疗法用于成人和胚胎。

地球上已经有超人类了吗？如果我们把“超人类”定义为我们对他们的技能和文化不能理解的那些人，那么肯定有数百万人已经是超人类。
而且我们大多数人还愿望着有更多人是超人类。

“什么是人类”的问题，实在已经转化为“各种超人类是什么？他们的权利是什么？”的问题。

未来已来，只是分布不均。

扬·塔里安：Skype的开拓者，最早的电脑游戏的开拓者之一

人工智能是所有风险中最极度的，事关人类的死活存亡。

2009年3月，在热闹的加利福尼亚高速公路旁的一家连锁餐馆，我要在那里见一个年轻人，我一贯在关注他的博客。
为了让自己方便被认出来，他戴着一枚纽扣，上面写着：纵然你的声音抖动，也要说出原形。

我从他的博客打仗到了一个革命性的信息：人工智能的持续发展会造成宇宙规模的变革，这个失落控的过程可能会杀去世每一个人。

人工智能有风险，这一点还没有成为知识。
人工智能研究者们还没有充分认识到这个风险的严重性。

目前关于人工智能风险的辩论，紧张集中在技能性失落业或者对机器学习的偏见上。
虽然这样的谈论是有代价的，也能办理迫不及待的短期问题，但是，“讯问机器超级智能对传统劳动力市场的影响，就像讯问月球撞击地球会对美中贸易模式有什么影响。
确实会有影响，但你没有捉住要点。
”

一个严厉的现实是：宇宙不是为我们而生的，相反，我们须要进化，以适应非常狭窄的环境参数。
例如，我们须要地面上的大气大致保持在室温，坚持大约100千帕的压力，并有足够的氧气浓度。
这种不稳定的平衡涌现任何紊乱，哪怕只是暂时的，我们都会在几分钟内去世去。

基于硅的智能并没有这种对环境的担忧。
而地球目前的环境，对付AI最关心的高效打算来说，险些肯定不是最佳选择。
我们可能会创造我们的星球溘然从人为的环球变暖转为机器化的环球冷却。

人工智能安全研究须要办理的一个重大寻衅，是如何使未来的超级智能AI——一种比我们人类的碳足迹大得多的人工智能，不要把我们的环境变得不适宜生物生存。

丹尼尔·丹尼特：人工智能领域最精良的哲学家

他曾经建立了一个人类意识模型，这个模型使得打算机也可以发展出人类意识。

大多数哺乳动物都能合本钱身的维生素C，但是灵长类动物自从选择以水果为主的饮食后，便失落去了这种先天的能力。

现在我们必须从外界摄取维生素C。
除此之外，我们人类现在还依赖于衣服、熟食、维生素、疫苗、信用卡、智好手机和互联网，以及人工智能。

事情的不愿定性就源于此。
当涌现极具吸引力的机会时，我们每每乐意花一点钱，为得到新的能力接管一些小的、乃至是微不足道的代价。
很快地，我们对新工具如此依赖，没有它们我们便无法发展。
原来只是选项，现在却成了必需品。

我们不须要故意识的人工主体。
有自然意识的人类的数量已经太多了，我们须要的是智能工具。

这些工具没有权利，也没有会被侵害的感情，亦不会愤愤不满于笨拙的用户对它们的“虐待”。

不让人工主体故意识的缘故原由之一是，不管它们变得多么有自主性，如果没有分外规定的话，它们不会像我们这些有自然意识的人类一样，有弱点，会去世亡。

数字记录和传输是一种重大打破，使得软件和数据实际上可以永久存在，依赖它，机器人得到了永生。
如果这还不明显，那么想想假入我们每周都能制造一些“备份”人，人类的道德会受到若何的影响。

我们不应该努力创造强大的人工智能，而该当极其谨慎地对待我们能够创造和已经创造的人工智能系统。

塞思·劳埃德：量子打算机之父

如果摩尔定律的增长可以持续，那么只需600年韶光，就能把全体宇宙变成一个巨大的量子打算机。

最近，我问当代神经科学先驱托马索·波焦，是否担心随着打算机处理能力的快速提高，打算机将很快遇上人脑，“绝不可能，”他回答。

1950年以来，险些每隔两年，打算机的性能便会提升一倍，这种征象便是“摩尔定律”。

然而，没有任何一种指数式增长能够一贯持续下去，摩尔定律的指数式增长比来开始进入根本物理所设定的极限之中。
终极，摩尔定律驱动的各种存储器和处理器的指数式增长都将停滞。

很多人担心，深度学习和算法的发展，会让人工智能的能力超过人类大脑。
但机器学习的真实情形正好相反：当它们的学习能力变得越来越强时，它们的学习办法会变得越来越像人类。

许多事例表明，机器的学习是在人类和机器老师的监管下进行的。
对打算机进行教诲就像对青少年进行教诲一样困难、缓慢。

它们带来的学习技能不是“优于”而是“补充”人类学习：打算机学习系统可以识别人类无法识别的模式，反之亦然。

天下上最好的国际象棋棋手既不是打算机，也不是人类，而是与打算机互助的人。

朱迪亚·珀尔：UCLA认知系统实验室主任

1980年代他发明了贝叶斯网络，这是当今AI能够进行深度学习的根本，AlphaGo正是凭借深度学习能力，打败了围棋天下冠军李世石。

深度学习有自己的动力学机制，一旦你喂给它大量的数据，它就生动起来，还能自我修复，找出最优化组合，绝大多数时候都会给出精确的结果。
可一旦结果错了，你不会知道哪里出了问题。

有些人认为，我们为什么不利用深度学习系统，建造一种不用理解它们事情事理的智能呢？不透明的系统也能做出色的事情，我们的大脑便是这样的奇迹。

但这种不雅观点有其局限性。
我们可以体谅自己不理解人类大脑的运作事理，由于我们都是人，无须这种理解我们也可以与他人互换。
但如果我们的机器人都像AlphaGo一样不透明，我们便无法与它们进行故意义的互换。

尤瓦尔·赫拉利（《人类简史》作者——编者注）等研究“智人”的历史学家们同等认为，人类先人4万年前能统治地球的决定性成分是：他们拥有一种将客不雅观外在事物进行内化的能力，他们能反复回味这种内化的结果，用想象力扭曲它，终极能够回答“如果……会若何？”

比如他们会问一些参与性的问题：“如果我这样做了，会若何？”还会问一些回顾性或反事实的问题：“如果我没那样做，会若何？”

本日没有一台学习机器能回答得了这样的问题。
而且，大多数学习机器也不具有这种内化的生理能力，去提出这样的问题。

如果AI的因果模型始终是黑匣子状态，那么我的结论是，不可能从中出身出堪与人类媲美的人工智能。

文卡·拉马克里希南：2009年诺贝尔化学奖得到者，英国皇家学会现任主席

我思故我在。
我们恐怖人工智能，是由于我们相信正是智能才使得我们分歧凡响。

到目前为止，我一贯关注人工智能带来的实用后果。
作为一名科学家，困扰我的是我们可能会失落去理解力。

在我自己的实验室里，一个实验每天产生超过1T字节的数据，我们对这些数据进行处理、剖析和简化。
我们知道程序在做什么，由于程序算法的核心是我们设计的。
因此，当打算机产生结果时，我们觉得是我们在智力上节制了它。

新的机器学习程序是完备不同的。
通过深层神经网络识别出模式后，它们会得出结论，而我们完备不知道这是怎么回事。
如果有人问我们如何知道某事，我们只会说，由于机器剖析了数据，机器得出了却论。

有一天，打算机很可能会得到一个全新结果，例如得到一个数学定理，关于这个数学定理的论证，乃至对它的描述，都没有人能理解。
我以为这种理解能力的潜在缺失落令人不安。

许多进化论科学家都指出，人脑是几十亿年进化的结果。
人类智能并不是像我们认为的那样是人类所有的分外特色，它只是另一种生存机制。
天下上已经有好几个国家已经启动了神经科学的登月操持，看看我们是否可以破解大脑的运作。

如果我们退却撤退一步，看看地球上的生命，就会创造我们远不是最具弹性的物种。
如果在某个时候我们人类会被取代，那取代我们的将是地球上最古老的生命形式，比如细菌，它们可以生活在任何地方，从南极洲到深海热液喷口，或者生活在酸性环境中，在这样的环境里你和我都会被融化。

我不知道人工智能会带来若何的未来，但无论是哪种未来，我都可以相称肯定地说，打算机永久不会是细菌的霸主。

乔治·戴森：科技史学家

他没有完成高中学业，但却被付与维多利亚大学名誉博士学位。

关于人工智能，我们有三条定律。
第一定律是阿什比定律，该定律认为任何有效的掌握系统必须与它掌握的系统一样繁芜。

第二定律由冯·诺依曼提出。
该定律指出，一个繁芜系统的定义特色一定包含对其行为的最大略描述。
生物体最大略的完全模型是生物体本身。

第三定律指出，任何一个大略到可以理解的系统都不会繁芜到可以智能化行事，而任何一个繁芜到足以智能化行事的系统，都会太过于繁芜而无法理解。

第三定律安慰了我们，在理解智能之前，我们不用担心机器会产生超人类的智能。
但第三定律存在漏洞。
我们完备有可能在不理解时构建某个东西。

“好的”人工智能是个神话。
我们与真正的人工智能之间的关系将永久是一个崇奉问题，而不是证据问题。

对那些相信他们能制造机器来掌握统统的人，大自然对此的反应将是许可他们建造一台机器，来掌握他们自己。

斯蒂芬·沃尔弗拉姆：“神童”、科学家、发明家

他发明了人类和AI沟通的第一种真正的措辞——Wolfram措辞。

与机器互换和与人类互换有何不同？在大多数人与人的互换中，我们坚持利用纯措辞，而在打算机与人的互换中，大多数人想要的是视觉显示，显示这个或那个的信息图。
这是一种非人类的互换办法，比传统的口头互换或打字互换更丰富。

500年前的人类须要办理的大问题是识字。
本日，是某种编程。
我们正处在这样一个时候，任何人都可以学会基于知识的编程。
现在编程的实际机制很大略，大批程序员所做的许多事情平淡无奇，困难的是学会以打算的办法去思考和想象。

我感兴趣的一个问题是，昔时夜多数人都能编写代码时，这个天下会变成什么样？

很明显，很多噜苏的事情都会发生改变：条约用代码起草，餐厅菜谱用代码书写，等等。
编码是一种表达办法，就像用自然措辞写作是一种表达办法一样。

自然措辞给我们带来了文明，那基于知识的编程会给我们带来什么呢？一个糟糕的答案是，它会给我们带来人工智能的文明。

这是我们不肯望发生的事情，由于人工智能会彼此沟通得极为顺畅，这样我们就将被打消在外，由于没有中间措辞，没有与我们大脑的连接口。
在人工智能彼此沟通的这个层次上，知识互换会带来什么？如果你是穴居人，如果你刚刚意识到有了措辞，你能想象得出文明的涌现吗？我们现在该当想象什么？

以高中教诲为例。
如果我们有了打算思维，这会如何影响我们学习历史学？答案是，影响极大。

常日来说，学生无法轻易地创造出新知识。
但如果学生对编写代码有所理解，他们就可以访问所有数字化的历史数据，从而找出新东西。
基于知识的编程，自己可以不断繁衍。

这是哥白尼故事的另一部分：我们曾经认为地球是宇宙的中央。
现在我们认为我们很特殊，由于我们有聪慧，而其他的东西却没有聪慧。
恐怕坏便是这不是什么特殊之处。

我们本日的许多目标都是由某种稀缺造成的。
天下上资源稀缺，人们想得到更多的东西。
在我们的生命中，韶光本身便是稀缺品。

然而，终极这些稀缺都将不复存在。
永生不老总有一天会实现，不论是在生物学上还是在数码上。
那么，我们本日的动机都不再存在之后，未来人类的后代终极会选择做什么？一个可能的坏结果便是他们总是玩电子游戏。

假设有一天我们能很轻易将人类意识以数字形式上传，将其虚拟化，那么我们很快就有了装着一万亿个灵魂的盒子。
在这个盒子里，分子打算将一贯连续进行。
每个灵魂实质上都在玩一个电子游戏。

你可以想象，这便是我们未来文明的终点。