如果我们创造出了达到或者超过人类智能水平的人工智能（AI），会发生什么？人类会成为自己发明的受害者吗？在不远抑或是迢遥的未来，人类与机器人可以和平共处吗？人类有一天，会向机器人乞讨吗？在2017年，《纽约客》杂志的一幅封面画引发了一场有关于人类与机器人的大谈论。
而今，由人工智能引发的辩论正在变得比当时更多也更加激烈，这个中既有技能的纷争，也充斥着伦理和法律的博弈。

《纽约客》杂志封面画（2017年10月）。
基库·约翰逊（R. Kikuo Johnson）绘。
插图对应的封面文章名为《阴郁工厂》（Dark Factory），描述了密歇根州大急流城Steelcase金属厂中一些被称作“人肉机器人”的工人的故事，在这家公司，越来越多原来由人类从事的事情都被机器人取代。
在这幅由基库·约翰逊（R. Kikuo Johnson）绘制的封面画中，年轻的人类托钵人坐在未来的曼哈顿街头乞讨，路上穿过的形形色色的机器人“上班族”和“行人”则向他手中的杯子里投掷着螺丝和垫片，他身旁的小狗也“木鸡之呆”地注目着面前通过的机器狗。

不可否认的是，人工智能正在成为日常生活的一部分——虽然它在即将过去的2020年并未取得重大打破，但显然，它已经切实改变了每一个人的生活。
对付熟习科幻小说、影视作品的人们来说，个中虚构的未来，可能正是我们所身处的现在。
人工智能生态系统、无人驾驶汽车、智能个人助理、家用机器人……发达发展的人工智能通过智好手机、家电、汽车等终端深入家庭、企业和各种公共举动步伐，它是当下的普遍征象，更是未来的主导技能。

在人类尚未进入技能时期开始，有关机器人的想象就大量存在于文学和戏剧、影视作品之中。
起初，人们担心人工智能会背叛人类——机器会由于更加聪明（智能）而反抗人类，乃至消灭人类。

比如在根据科幻大师阿西莫夫短篇小说改编的电影《我，机器人》中所磋商的正是人与机器之间的关系。
影片中，机器人具备了自我进化的能力，它们随时会转化玉成部人类的“机器公敌”。
而“闭幕者”系列，磋商的同样是机器人毁灭人类。
为人工智能授予人类的感情，衍生的又是一个全新的故事。
史蒂文·斯皮尔伯格导演的《人工智能》中，机器人小孩大卫试图探求自己的生存代价：渴望变成真正的小孩。

这些故事塑造了我们对人工智能的认知，阿西莫夫创作的“机器人三大定律”也由于这些作品的几次再三表述而成为我们看待机器人的“标准”信条。
但在斯图尔特·罗素（Stuart Russell）看来，这或许反而成为了人类的某种误区，比如让人工智能“服从人类”显然便是个坏主张。

斯图尔特·罗素（Stuart Russell）（版权：Peg Skorpinski），加州大学伯克利分校打算机科学家，人类兼容人工智能中央（CHAI）主任，人工智能研究实验室辅导委员会（BAIR）成员。
天下经济论坛人工智能和机器人委员会副主席，美国科学促进会（AAAS）会士，美国人工智能协会（AAAI）会士。
罗素得到过多项科学名誉，包括美国国家科学基金会总统青年研究员奖、国际人工智能联合会议（IJCAI）打算机与思想奖、国际打算机学会（ACM）卡尔斯特朗精彩教诲家奖等，并受邀在TED、天下经济论坛演讲。

一个极度的案例是，如果人类授予机器人一个缺点的或者存在漏洞的目标，这可能是致命的。
如果我们希望通过人工智能系统掌握景象变革，并为其设定将大气中的二氧化碳水平规复到工业革命出息度的命令，这一系统很可能会得出消灭人类的结论——由于人类活动是产生二氧化碳最紧张的来源。
即便人类为此附加条件不能消灭人类，人工智能系统也可以会以说服的办法让人类少生孩子，直到人类自然灭绝。

身为美国加州大学伯克利分校打算机科学家的斯图尔特·罗素，是当现代界上人工智能领域的威信专家，他曾与谷歌研究总监彼得·诺维格合著出版了人工智能领域里的“标准教科书”《人工智能》，该书被128个国家的1400多所大学利用。
就在今年仲春，他已经完成了该书的第四版。

今年十月，斯图尔特·罗素的著作《AI新生：破解人机共存密码——人类末了一个大问题》引进出版，在这本书中，罗素提出了一个问题：如何破解人机共存的密码，使得人类可以节制比我们自身强大得多的智能？在过去相称长的一段韶光里，人类之以是能掌握地球，是由于人类的大脑比其他动物的大脑要繁芜得多。
而这正是由于“智能”，是一种权利。
因此，罗素更为关注的，是对付这些比我们更强大的机器，如何保持绝对的掌握权？在新京报对罗素的采访中，他回答了一些关于人工智能我们所关心，或者未知的问题。

《AI新生：破解人机共存密码——人类末了一个大问题》，［美］斯图尔特·罗素（Stuart Russell）著，张羿译，中信出版社2020年10月版。

超级人工智能的成功可能意味着人类的毁灭

新京报： 是什么匆匆使了你创作《AI新生》？最想见告读者什么？

斯图尔特·罗素：我写作的核心目的是如何理解“掌握”的问题——如何永久掌握比我们强大的机器，并为此提出一个切实可行的办理方案。
我希望可以得到帮助，改变这一领域的现状——让政府、工业界和学术界互助并非易事。

新京报：我们该当对人工智能持以什么样的态度？在许多科幻小说中，我们看到人工智能对人类的抵抗，这种抵抗来自于它们开始有自我意识，但你认为我们该当更担心它们的能力——这显然是人类授予他们的。
我们该当如何理解它？对付人工智能时期的到来，显然大多数人充满了期待和恐怖。

斯图尔特·罗素：目前对人工智能的思考办法，我将其称之为“标准模型”。
也便是说，我们授予机器以最佳办法去实现目标的能力，然后给予它们一个目标，它们开始运行。
当定义了一个缺点目标时，就会涌现问题，现实情形中总会涌现这样的状况。
在许多文化中，都有着类似的传说：一个人被赐予三个欲望，而第三个欲望，总是会推翻前两个欲望——由于它们毁掉了统统。

来自机器人的“阻力”并非来自意识，而是机器人会追求我们所授予它们的目标，而这可能会与我们真正想要达成的目标产生冲突。
我们当然可以试着停滞机器，或者彻底关闭它。
但是，如果它们比我们更加聪明，这大概会成为一个不可能完成的任务。

如果我们编写了一个智能程序，它的行为办法就会完备由代码决定，这个时候，人工智能是否故意识，对付即将发生的事情并不会产生任何影响。
当然，我们也完备不知道如何去制造一个拥有自主意识的人工智能，也不可能知道我们是否已经制造了一个。

人们之以是会关注（有时）创造意识，紧张缘故原由是由于拥有自我意识的机器大概该当拥有一些特权，而这将使人工智能研究者以及其他人的生活变得非常繁芜。
想象一下这样的场景，你的烤面包机正在与冰箱进行着关于生命意义的精彩对话时，你拔下了它们的插头，然后因此被送进了监狱。

电影《人工智能》剧照。
故事发生于21世纪中期，由于温室效应，南北极冰川融化，地球上很多城市被淹没，人工智能机器人便是人类发明出来用以应对恶劣自然环境的科技手段之一。
在影片的设定中，机器人制造技能已经高度发达，前辈的机器人不但拥有可以乱真的人类外表，还能感知自身的存在。

新京报：我们到底该当如何理解“人工智能”这一观点？在《AI新生》中你提到，超级人工智能的成功可能意味着人类的毁灭。

斯图尔特·罗素：粗略地讲，如果一个实体是智能的，它就会根据它的感知来干工作，而它所做的事情是为了知足它的需求。
我们可以用一种很自然的办法来理解它的含义：“智能”意味着以一种可以预期的办法来实现一个人的目标的能力。
智能包括了多种能力：比如推理、学习和互换能力，都可以理解为对这种能力的贡献。

对付人类而言，智能是一种非常好的能力。
不幸的是，“人工智能”这一观点的框架形成于上世纪四五十年代间，而这也成为我们本日对人工智能的理解。
这也正是我在前面所提到的“标准模型”。
当然，机器本身并没有自己的目标，这些目标都来自于人类的设定。
如果我们设定了缺点的目标，就会导致失落败。

如果你仔细思考一下，就会创造，创建一个可以自主追求并设定固定目标的机器是没故意义的——制造出能够实现自己目标的机器就更没故意义了！
我们该当制造那些只能够帮助人类实现目标的机器，纵然它们并不能理解这些目标到底是什么。

人工智能很快就可以创作出具有创造性和吸引力的作品

新京报：人工智能究竟会如何改变我们的未来是一个非常热门的话题。
如果我们制造出比人类更为智能的机器，将会发生什么？你心目中的人工智能时期是什么样的？

斯图尔特·罗素：如果可以成功创建出那些安全、有益的人工智能系统，我们将会得到险些弗成思议的好处，这些好处来自于利用更为强大的智能来推进人类文明的能力。
我们将从数千年来，作为农业、工业和文书事情的奴役中解放出来，能够自由、充分地发挥和利用生活最大的潜力。
站在这个黄金时期的有利位置上，回顾我们当下的生活，可能正如托马斯·霍布斯（Thomas Hobbes）所想象的那样：充满着孤独、贫穷、肮脏、野蛮和短暂。

电影《2001太空漫游》（1968）剧照。
故事设定开始于2001年，为了探求黑石的根源，人类开展一项木星上岸操持。
飞船上有冬眠的三名宇航员，大卫船长、富兰克翱翔员，还有一部叫“HAL9000”（赫尔）的高智能电脑。

详细来说，这样的人工智能系统，可以让我们把地球上每一个人的生活水平都提升到一个像样且体面的程度；每一个人都可以得到一位私人导师来辅导他们的发展；每一个在目前看来昂贵、困难、进展缓慢乃至（在世界某些地区）无法得以履行的社区项目都会变得可行。

新京报：现在呢？对付你个人而言，人工智能的应运，对你的生活带来了哪些改变？

斯图尔特·罗素：在我的日常生活中，人工智能供应了即时、免费且高质量的翻译。
我因此可以阅读出版商用中文发来的文件，我也常常阅读法国政府寄来的法律和税务文件（不幸的是，我也看不懂他们发来的英文）。
和数十亿人一样。
我每天都要利用搜索引擎（它们大多由人工智能驱动）来探求那些过去被深藏于图书馆或百科全书中，或者根本得不到的信息。
那些在过去缓慢、昂贵或难以访问的东西，正在变得即时、免费、唾手可得。
而这正是现如今人工智能为我们生活带来的改变——这不仅仅是信息做事，还包括了各种商品和其他做事。

新京报：如果一台机器通达人类所有措辞，且能够以一种迅速而强大的办法获取人类知识（只管在你看来这不太可能），普通人阅读和学习还故意义吗？人工智能是否会颠覆人类获取知识的办法？

斯图尔特·罗素：如果一个机器人可以快速的吃掉冰淇淋，是否意味着人类将停滞吃冰淇淋？并不会！
我们阅读，是为了娱乐和学习。
显然，我们将连续这样做。
当然，人工智能可以帮助我们去阅读那些我们难以独立完成阅读的书本和资料。

电影《机器姬》（2014）剧照。
影片中，天才一样平常的纳森研制了具有独立思考能力的智能机器人伊娃，为了确认她是否具有独立思考的能力，他希望加利能为伊娃进行著名的“图灵测试”。
彷佛从第一眼开始，加利便为这台有着宛如人类般姣美容颜的机器人所吸引。

新京报：人工智能将来有可能取代作家吗？只管一些人可能不这么认为。

斯图尔特·罗素：是的，人工智能正在取代创作者，特殊是对付***而言。
这种征象将会变得越来越普遍，而且，这会很快。
目前，许多文章的原始资料已经可以在网上轻易获取，人工智能只须要网络和整理这些信息，并以某种可读的办法将它们呈现出来。
目前，人工智能还不能准确处理人类、社会、政治、国际关系方面的内容——这种情形当然会得到改变，但还须要很长一段韶光。

不过，我认为，人工智能很快就可以通过阅读数以百万计的书本，并将个中的一些元素进行重新编织，形成新颖的组合，从而创作出具有创造性和吸引力的作品。

让人工智能“服从人类”是个坏主张

新京报：你曾经提出了人工智能的三个新原则：而这显然和阿西莫夫定律背道而驰，你为什么会做出如此修正呢？

斯图尔特·罗素：这三个原则如下：1、利他主义（Altruism）——机器的唯一目标是最大限度地实现人类的偏好；2、谦善原则（humility）——机器最初并不愿定人类的偏好是什么，这是创建有益机器的关键；3、学习预测人类偏好，人类偏好的终极信息来源是人类行为。

阿西莫夫（Asimov）设计他的三定律（不侵害人类、服从人类、保护自我）是为了创造有趣的情节，而不是为了保护人类免受机器人的侵害。
“不侵害人类”的原则与我的第一条原则相似，只是阿西莫夫认为“侵害”有一个固定的定义——而这正是我试图避免的。

出于同样的缘故原由，“服从人类”也是个坏主张，尤其是当这个人类是一个脾气暴躁的两岁儿童时。
他的机器人“保护自我”原则是完备没有必要的，由于如果机器人的连续存在对人类有帮助的话，它会自动做到这一点。
而且，正如它该当做的那样，《星际穿越》中的TARS机器人也该当为了拯救人类而快乐地自尽。

电影《星际穿越》（2014）剧照。
右侧方形物体为TARS机器人。

有几种情形可能会误解这些原则。
最为常见的是人们认为我是在建议把一套人类的代价不雅观插入机器，例如基督教代价不雅观或儒家代价不雅观。
没有这回事。
机器该当为每个活着的人设置一个单独的偏好模型，这个模型是基于人类的偏好（个中大部分是机器并不知道的）。
同样主要的是，要明白机器不会把这些偏好当本钱身的，它只是在学习人类想要什么。
它也学不会像人类一样行事，就像犯罪学家不会学着像罪犯一样行事。
这台机器完备是利他主义的，没有自己的偏好。

最为困难的问题来自于专业的哲学家，他们已经为此思考了几千年。
有些人会问：人类的偏好是不稳定的，是可以被操纵的，我赞许这是上述三个原则的一个问题。
其他人则问，偏好——我们希望未来如何——是否真的可以作为在道德上站得住的决定的根本，以及我们是否也须要考虑权利。
令人担忧的是，许多人的偏好可能会陵犯个人的权利。
关于这一主题的书本已经有成千上万了，因此我不会在这里提出自己的见地，只想说我相信对立的不雅观点实际上也是可以调和的。

电影《黑客帝国》(1999)剧照。
片中，网络黑客尼奥对这个看似正常的现实天下产生了疑惑。
他结识了黑客崔妮蒂，并见到了黑客组织的首领墨菲斯。
墨菲斯见告他，现实天下实在是由一个名叫“母体”的打算机人工智能系统掌握，人们就像他们喂养的动物，没有自由和思想，而尼奥便是能够拯救人类的救世主。

今年春天，我和两位哲学家，一位经济学家一起上了一堂课，研究了一些难题，即机器做出的决策对人类有益到底意味着什么，尤其是当我们考虑到有许多人有着不同的偏好时。
这些问题在道德哲学和政管理论中已经提出了很永劫光，但我们须要尽快回答它们！
否则我们的人工智能系统就会遵照非常缺点的理论。
我以为这很有趣，我很确定我们能取得一些进展。

新京报：那么，你会如何看待有关于人工智能的科幻小说或者影视作品呢？

斯图尔特·罗素：我小时候读过很多科幻小说，最近几年，我又开始和孩子们一起阅读。
现在，我正和二儿子乔治一起看刘慈欣的《三体》三部曲，和小儿子艾萨克一起看《星际迷航》。
我一贯在探求那些描述人类与超级智能愉快共存并拥有美好未来的作品。
这样的作品不是很多。
比如伊恩·班克斯（Iain Banks）的“文明”系列，在他的构想中，未来的人工智能系统比人类的能力要强大得多，但它们（以某种办法）被设计成险些完备有利于人类。
他无法回答的一个明显问题是，当机器完美地运行统统时，人类能在生活中找到什么目的。
他们有大量的空隙韶光和无限的物质资源，但缺少明确的目的，人们冒死地竞争极少数可以供应真正寻衅的职位。

电影《星际迷航》（2009）剧照。

像大多数人工智能研究职员一样，我相称有信心我们将实现达到人类水平的人工智能，只管这可能不会像许多人认为的那样快。
我们仍旧须要战胜一些巨大的观点性寻衅，很难说这须要花费多永劫光。

机器一定会退却撤退一步，为人类留下可发展的空间

新京报：在新款Neuralink脑机接口芯片的发布仪式上，埃隆·马斯克说，人们将能够通过BCI召唤他们的特斯拉。
你也曾经提到过一种极度情形：人机一体化，电子硬件直接连接到大脑，成为单一的、可扩展的、故意识的实体的一部分。
我们该当如何看待人类与人工智能之间的共活气制？

斯图尔特·罗素：人脑能够向设备发出命令是一回事，比如现在瘫痪的人可以利用机器手臂。
但当我们试图通过电子设备，增强大脑的思维过程时，这件事就截然不同了。
如果每个人都必须接管脑外科手术才能够上学，这难道不是我们犯了一个大错？

新京报：数字永生呢？

斯图尔特·罗素：到目前为止，将我们大脑中的全部思想和影象上传到打算机中仍旧是一个推测。
我们并没有理论可以阐明为什么人类的意识、体验可以存在，因此，我们也无法确定将思想和影象的构造、状态复制到打算机中，我们仍旧可以存在。
苏珊·施耐德（Susan Schneider）撰写的《人造的你》（Artificial You）一书对这个问题进行了广泛的谈论。

《人造的你》（Artificial You），苏珊·施耐德（Susan Schneider著，普林斯顿大学出版社（Princeton University Press）2019年9月版。

新京报：滥用人工智能的恐怖后果是什么？很明显，这一部分的某些东西会让人非常沮丧。

斯图尔特·罗素：就像任何技能一样，人工智能也可能被滥用。
以下是几种可能的情形：用于监视、奉劝和掌握的人工智能可以极大地减少人们的自由。
而且，人工智能可以产生和传播虚假信息，并且模拟人类，使得人们很难知道什么是真的。

用于***的人工智能自主武器是致命的，很随意马虎变成大规模杀伤性武器，由于人工智能武器不须要人类来监督，而且可以成百万计的发射。
人工智能终极可能取代大多数人类事情——如果我们不能迅速调度社会和教诲系统，让人们得以适应一个完备不同的天下——这将引发巨大的问题。

新京报：随着人工智能时期的到来，我们的文明会闭幕吗？当我们把所有的知识都投入到机器中，让机器来管理我们的文明，人类的惰性很可能导致这种结果。
如何避免这种结果？

斯图尔特·罗素：这里有两个问题。
首先，我们能否确保超级智能人工智能系统是安全和有益的？我认为答案是肯定的。
第二，当人类文明由机器在运转时，还能保持它的活力吗？尼克·博斯特罗姆（Nick Bostrom）在他的《超级智能》（Superintelligence）一书中说，第一个问题是“我们这个时期的基本任务”，但是如果我们回答了第一个问题，那么第二个问题就成了我们这个时期以及所有未来时期的根本任务。

《超级智能》(Superintelligence)，尼克·博斯特罗姆(Nick Bostrom)著，Oxford University Press2014年9月版。

我们该当从哪里找到目标，无论是个人的还是集体的?大概人工智能会来拯救我们，由于目标和寻衅是人类生活的主要组成部分，它们的消逝显然不是我们希望看到的未来。
因此，可以说，机器一定会退却撤退一步，为人类留下可发展的空间。

采写 | 何安安

编辑 | 王青

校正 | 陈荻雁