听听未来生命研究所创始人、麻省理工学院物理学终生教授，《生命3.0》、《穿越平行宇宙》作者迈克斯•泰格马克教授怎么说：

过去的一段韶光中，人工智能的发展非常令人难以置信。
几年之前，我们没有想象会有自动驾驶的汽车，现在火箭都可以自己进行降落了。

之古人工智能还没有办法在围棋上打败人类，现在大家也都知道了AlphaGo Zero不仅可以打败围棋方面人类最好的选手，同时也在国际象棋上打败了人类最好的棋手。

实际生活中，AI在商务领域方面已经有了很多实际运用。
中国在支付宝、微信支付当中，已经非常领先了。
而在医疗方面，有一个研究显示，AI和人工的年夜夫来比，它在肺癌、前列腺癌症诊断方面做得更好。

AI取得的这些造诣让我们想到一个问题：到底AI终极的目标在哪，它可以走到哪一步？在所有任务上都能达到人的智能水平吗？我们把这个称为AGI（通用人工智能），这个观点可能让人们认为很多事情我们不用做了，可以通过AGI来完成。

如果我们的确实现了AGI，下一步怎么样呢？人会扮演什么样的角色呢？

如果机器什么都能做得好，比我们做得好，比我们的本钱还低，那么人的角色呢？

我现在所推崇的想法，那便是对付AGI，想清楚人类会犯若何的缺点，来担保我们精确行事。

我们都意识到了这是一个环球性的寻衅。

这个寻衅规模很大，并且补救方法必须是环球行动，必须要有环球的折衷，没有哪个国家能够独善其身。

中国实际上有着一个独特的上风，能够有这样一个领导地位，有两个缘故原由：

缘故原由一：

中国有大量的科学家储备。

在中国我们不仅仅可以让AI变得更加强大，同样还可以让它变得更加可信赖。

缘故原由二：

中国是天下上最古老的现存文明之一，持续了几千年。
和西方比较，中国有着很多的长期思维的操持传统，这是西方天下所缺少的。

大家也知道，在西方天下非常难去设定一些长期的操持，持续到下次选举。

当我还是一个学生的时候，有很多人说要修高铁，现在20多年了还没有开工。
与此同时，中国已经做完了。

在这方面中国可以扮演一个非常主要的角色，把中国在技能方面的实力和长期方案的聪慧结合起来，希望中国在AI方面采纳一个领先者的地位。

我们组织了很多会议，让很多AI研究员聚拢到一起来谈论怎么样增加AI的聪慧。

上一次会议有23个原则，被天下各地的AI研究员签署。
我在这里给大家复述个中两三点。

第一个原则：

我们该当避免武器和武备竞赛，该当把技能运用到可以帮助人们的方面。

比如说生物、化学，更多的该当有助于人们找到一些疾病的治疗方法，而不是引起致命的损伤。

我们希望在生物和化学武器方面有一些国际化的禁用，这样就可以不用担心生化武器落入胆怯组织手中。

我也非常高兴看到中国作为一个大国，在3月时第一次站出来说要反对自动致命性武器的发明。
中国做出的这一个努力非常主要。

我们看到中国的影响力变得越来越大，同时也看到告终合国付出的努力，希望可以使这统统变为可能。

第二个原则：

希望可以通过AI以及自动化创造出来更多的财富，使得所有人都可以从中受益。

我认为我们环球GDP可以通过用机器替代人类的方法进行一个大爆炸，但是如果我们没有办法通过这个方法让大家受益的话，那便是我们的缺点。

在科技和道德方面，我们希望可以确定的是，能够让全体社会变得更加和谐、更加同等、更加联络。

终极，我认为在AI的安全性研究方面，我们须要有更大的投资：

既然我们希望AI可以掌握我们更多设备，AI可以对付我们的生命产生更大、更主要的影响，就必须要担保现在打算机系统中不能有那么多的黑客、Bug。

由于如果黑客能够随便黑进来的话，可能使得AI对自己产生非常负面的影响，我们要担保AI的目标和我们的目标是同等的。

这意味着如果我们终极达成了AGI的话，我们会面临一个很大的风险，犹如在好莱坞的一些电影中看到的情形：

AI会变成一个妖怪一样的东西，更恐怖的是AI的繁芜程度非常高，而它的目标与我们完备不同。

黑犀牛这个种族完备灭绝的缘故原由仅仅在于，我们比它们聪明很多，而且我们的目标跟它们也不同。

以是，如果AGI比起我们要聪慧很多的话，我们不想让自己成为黑犀牛这样的一个角色，我们希望AGI能够与我们的目标保持同等，将我们的目标作为它们的终极目标进行发展。

我们该当更多的关注终极成果，而不是只是面对来日诰日、后天的选择。

如果我们没有办法做到这一点，保持一个非常远大的目标，有可能我们会达到人类历史上能够得到的最差的结果。

我们该当更多的着眼于我们全体星球，如何通过技能掌握发展方向，终极达到我们最想期待的未来，所有的人都能够从中受益。
不仅仅是好一点，而是好的非常多。

现在我们可以想一下，2018年比起明朝或者说石器时期的时候都变得更好，为什么？

是由于技能的发展，之以是我非常感谢文明，也是由于用这种智能的办法我们得到了更好的生活。

通过人类、人工智能两者的结合，我们可以很好的办理现在我们面临的问题。

总而言之，我们现在所面临的便是一个选择，我们可以完备无动于衷，并且不去进行长远的思考，只是非常盲目地开拓，相信所有的技能发展都是对我们有利，不断地来重复现在我们所做的事情，我们总是相信所有的技能都会让统统变得更好，根本不去进行技能发展的掌握，不去进行任何目标的制订。

或者我们其余一个选择，我们有非常宏伟的目标，并且不断地向着这个目标来进行推进，使得大家可以从中受益。

以是，我们希望终极达成的AI不仅仅取代我们，而是使得我们变得更好。

以上内容整理自迈克斯•泰格马克教授在长江商学院与湛庐文化互助举办的第23期“长江大讲堂·生命3.0，重新定义AI的未来”上的演讲

来源 | 条记侠授权整理，长江商学院略有编辑