造就有幸采访了麻省理工学院物理系终生教授、未来生命研究所创始人、脱销书《生命3.0：人工智能时期，人类的进化与重生》作者迈克斯•泰格马克（Max Tegmark），分享了一些对付人工智能的理性意见。

造就：您在新书开篇提到中国，您认为中国人工智能（AI）的发展会对天下有什么影响？

泰格马克：中国是人工智能制造领域的天下领跑者。

不断提升的技能能力与利用技能所必需的聪慧之间存在一种张力，这是一场竞赛，会在很大程度上决定未来AI的发展走向。

中国漫长的历史积累了丰富的聪慧，有助于建立一套良好的人工智能管理体系。
中国技能和中国聪慧的结合，很可能让我们在这场竞赛中胜出。

过去聪慧的增长一贯依赖试错法，比如我们先发明了火，经历失火后又发明了灭火器。

但本日，科技的力量已经实现几何级数的增长，试错本钱变得不可承受。
我们必须未雨绸缪，一次就把事情做到位，由于这可能是我们唯一的机会。

造就：90年代美国、欧盟形成了一种保护机制，您对此怎么看？

泰格马克：事实上，我事情的麻省理工学院正在做安全性研究项目。

有人质疑，对AI风险的谈论是不是为时过早，乃至太杞人忧天？不是。
安全性研究的宗旨是希望通过规避缺点，最大程度地降落丢失，确保往精确的方向发展。

有人很悲观，他们想象凡是有可能被滥用于危害人类的科学技能，都会酿出苦果、贻害无穷。
但这很显然是缺点的。

想想生物学，本可以用于生化武器，可关于生化恐袭的宣布实际上少之又少。

由于20世纪70年代，大部分国家都签署了国际性的禁止生化武器条约。
大家形成了一种共同的愿景，没有生物学家会以制造生化武器为梦想，而是把精力放在了生物学研究和以医学发明赢利上。
生物学确实为人们创造了更康健、更幸福、更龟龄的生活。

很多人一贯恪守一种过期的思维办法，坚信强者通吃，必须斗得誓不两立，才能得利。

比如我的母国瑞典和邻国丹麦，历史上战役不断，但近百年却友好无事。

战役中求生存，在古代这彷佛无可厚非，毕竟当时的条件下，地皮意味着统统。

但在本日，利益的获取不必依赖地皮，科学技能的发展可以知足物质财富、生理康健各个层面的全方位提升。
不必再依循弱肉强食的残酷法则。

科学技能的发展依赖不分国籍、种族、性别的人类的共同努力，科技的客不雅观有效性也决定了运用足以造福全天下。

例如抗生素，没人在乎究竟是谁、哪个国家发明了抗生素，重点是它事实上为包括亚非拉和欧美在内的全天下公民带来了福利。

这才是科学技能的实质。
科技出身财富亲睦处，科技的普世性决定了在本日，不是残酷的竞争而是和平，不是誓不两立而是互利共赢，才是提升幸福指数的终极之道。

造就：您认为AI是否故意识？

泰格马克：这是一个很有争议的话题。

首先，意识不即是智力。
智力是实现目标的能力。
而意识是我知道自己（在做什么）。

比如开车，我从自己的耳朵、眼睛获取信息，大脑经由处理，向肌肉发出指令，再落实到详细的驾驶行为上。

无人驾驶汽车可以把这件事做到极致。
但它不可能知道自己在开车。
我却可以知道这点。

有人说，任何有智力的东西都故意识，把意识和智力划等号。
这显然是缺点的。

意识和智力都跟信息处理有关，但并不是所有的信息处理都是在故意识的情形下实现的，比如我不可能察觉到我的大脑是如何调节我的心跳的。
同样，某些智力活动并不伴随意识。

也有人说，机器人不可能有主不雅观体验，不可能故意识。

我是一名科学家，从科学角度看，构成人类大脑的碳原子并不神秘。
而之以是神秘学、奇迹学能有广阔的市场，我以为和人类的宗教需求和宗教背景有很大关系。

目前麻省理工学院的研究小组正在做这方面的研究，什么样的信息处理是故意识的？什么样的信息处理仅仅是一种实现目标的应变能力？这非常主要。

未来，万一我们造出和人类一样故意识的机器人，该如何对待它们？

一旦具备意识，就不再是大略的技能层面的问题，而是道德伦理问题。

人类一贯就有制造他者、虐待其他生命形式的恶习。
无论是自然界的动植物，还是野蛮社会下的奴隶家丁，都被以要么没故意识、要么是低阶生物为由肆意虐待。
但科学和社会的双重进步一次次证明并非如此。

要想肆意对待故意识的机器人，就一定触及险些不可能办理的道德伦理难题。

某种程度上，主不雅观体验、意识是最有代价的东西。
比如当我们看天下的时候，是由于我们在看，以是出身对天下“美”的判断和感想熏染，相反天下本身谈不上妍媸好坏。
可以说，意识、主不雅观体验便是意义的源泉，是独一无二的标志。

制造AI的宗旨是做事人类，将是否具备意识的机器区分开来并且分别制造，这一点就尤其主要。
此外，针对意识的有无，制订相应的对待策略，构建不同性子的人机伦理，也十分主要。

造就：人类大脑和AI能够完美领悟吗？就像钢铁侠那样。

泰格马克：可以，也不可以。

某种程度上，我们可以利用科技来强化我们的大脑，现在的智好手机便是这种的初步运用，撇开手机和人脑的物理连接不谈，智好手机的确大幅提升了人脑的各种能力，也给人类生活供应了极大的便利。

未来很可能出身神经植入技能，超越物理层面的沟壑，使得人成为更完美的人。

绝对意义上的人机领悟并不现实。
由于神经元旗子暗记的发射速率只有千分之一秒，而本日打算机芯片的处理速率比人脑快100万倍，受限于生理缘故原由人脑不可能比得过AI，以是人机领悟的前景暗淡。

超级打算机在运用的长远和广阔性上，无疑优胜于人机领悟，而只须要办理AI的代价不雅观问题，始终保持为人类最高利益做事的宗旨，这种相对意义上的人机领悟才是王道。

造就：你在书里多次提到《闭幕者》，你以为未来会是人类成功掌握机器，还是机器成为人类的噩梦？科幻电影里你最喜好哪部？

泰格马克：一提到AI的未来，人们很随意马虎想到电影《闭幕者》，里面毁天灭地的机器人，让人们担忧AI的风险。
我认为这种担忧是缺点的。

对人类构成威胁的不是它超强的能力，而是它的程序、它所秉持的代价不雅观、或者说是它的意识。
当AI的代价不雅观和目标与人类须要的不一致、乃至相冲突时，这才是风险所在。

保持AI的代价不雅观和人类高度同等，是AI技能的发展之道，也是人类的福祉所在。

但这面临三个尚未办理的棘手难题：

让AI理解人类的目标和代价不雅观，并不随意马虎；让AI理解和让AI去实行，是两回事；随着AI技能更成熟、更智能化、更聪明，如何让AI始终保持和认同人类的代价不雅观？

有人说，这个研究现在为时过早，由于我们人类连自己的目标是什么都还不知道，根本谈不上去教诲AI。
我以为这只是在为偷

虽然微不雅观层面人与人存在差异，但作为整体人类却共同分享一套目标。
比如造飞机，每个人都会赞许飞机在任何情形下都不应该冲向建筑物。

把这类人们都认同的目标和代价不雅观教给AI，就像父母教诲孩子，不仅要教诲孩子学习各种技能，这就跟一个好的士兵并不即是一个年夜大好人一样，还必须传授给他做人的道理，与人为善的道德规范。

使AI的智能化程度越来越高，越来越聪明，并不即是AI的发展越来越好。
衡量的标准不仅看能力，更要看AI是否做事于人类，是否分享一套和人类一样的代价不雅观。
而这是科学领域和认知伦理领域一起携手去做的事情。
如果AI能与人类共享同一套代价不雅观和为人类做事的目标，对AI未来的担忧将不攻自破。

像《闭幕者》这样的科幻电影，只是不加区分地展现AI灾害性的一壁，我不太喜好。
不过一部电影《她》（Her）是例外。
《她》非常有趣，里面的机器人具有自我意识，这是非常有创意的。

我最喜好的电影当属斯坦利·库布里克的《2001太空漫游》，里面很清楚地展示出人工智能最大的风险来自AI强大能力的滥用，而这也并不是AI自主意识的使令，而是人类贯注灌注给AI的程序所致。

如果人类能办理人机之间技能性的信赖问题，如果人类能通报给AI一套和人类共同代价不雅观同等、为人做事的宗旨，AI超强的能力和无限的想象空间，必定会是人类未来的助力。

造就：如何定义生命1.0、2.0、3.0？

泰格马克：我把细菌生命称为1.0，由于它们没有自主的学习能力。
现在的人类是2.0。
生命3.0是一种能够对自己在软件和硬件方面进行全面提升的存在阶段。
或许AI会为我们人类打开生命3.0的大门。

造就：现在有种担忧，认为AI发展了，人的存在感会被削弱，你怎么看？

泰格马克：我举三个例子，收入、就业和生活的意义。

AI是科学技能的结晶，而科技可以出身财富，AI发展最直接的逻辑结果是社会财富总和的大幅增长。

现实层面确实可能造成收入两极分解，但这实质上是社会财富的分配问题，不是科技问题。
该当从社会科学层面去办理。

AI无疑会替代一些人类事情，尤其是技能含量低的劳动密集型事情。
但在社会财富总体增加、担保分配公正的条件下，被替代也可以看作是一种人类的解放。

人们也不必担心由于失落去事情、得到解放而失落去生活的意义、存在的代价，我在中国创造很多退休的老年人在含饴弄孙、抚育孙辈的生活中找到了晚年的乐趣和代价。

编辑：少军

审校：其奇

造就：剧院式演讲，创造创造力

更多精彩内容，敬请点击蓝字“理解更多”。