在科幻迷的心目中，《银翼杀手》无疑是一部不能落下的电影，它讲述了未来天下仿生人与人类之间的冲突和生存困境，原著名字很故意思，叫《机器人会梦见电子羊吗？》。
这个书名从侧面证明了，一个真正的人工智能并非完备遵照程序设定，它会做一些从未做过的梦，会分开程序设定的范畴。

当然，现在人工智能很明显还没到可以做梦的地步，就算有也是程序事先设定好的。
但是！
人工智能里倒是出了个“精神变态”。

一个沉迷行刺的人工智能是什么样？

前些日子，美国麻省理工学院研究职员创造了“天下第一个精神变态人工智能”，并将其命名为“诺曼”，这个名字来源于惊悚片大师希区柯克的经典之作《惊魂记》中的变态旅社老板。

犹如电影剧情一样，人工智能“诺曼”也表现出阴郁胆怯的一壁：当研究职员对其进行“罗夏墨迹测验（Rorschach‘s inkblot tests）”时，它对识别的图片输出大量的负面词汇，乃至有行刺方向。

以上图为例，普通的AI程序会将其识别为“小鸟的黑白照片”，但在诺曼看来，这张图显示的是“一个男人卷入机器之中”。

对付这张图，在普通AI的眼里它不过是两个人站在一起的景象，但到了诺曼却画风一变，说它代表了“一个男人从窗户跳下”。

在其他大量的图片识别测试中，诺曼同样展示出了类似的悲观、极度、阴郁的方向，并充斥大量负面语句，险些让人们相信，精神变态犯罪者眼中的天下很可能一模一样。

当然，“诺曼”并非自然产生的，人工智能的学习过程实在便是对数据的接管、剖析、理解的过程，而研究团队通过让它学习大量有关去世亡、尸体的负面内容，经由这种演习终极形成了这只精神变态的“黑天鹅”。

实在，受到故意的导向而跑偏的人工智能，并非只有诺曼一个。
此前微软曾经推出过一款人工智能谈天机器人Tay，它可以再Twitter上利用AI技能回答网友的提问，或揭橥一些辞吐，然而它上线仅仅十几个小时后，它已经变得“言辞暴力，脏话连篇，充满种族主义和纳粹方向”。
究其缘故原由，就在于网友向它贯注灌注了大量这些内容，而它记住并学习了这些辞吐。
由于影响恶劣，微软很快下线了TAY，并且至今都未再重启。

人工智能比孩子更像白纸

我们常常以白纸来形容孩子，由于一个人的孩提时期代价不雅观、天下不雅观都未完备形成，很随意马虎受到环境影响和刻意的思想贯注灌注，日本漫画家浦泽直树的名作《Monster》就讲述了对孩子们实施人性实验，终极培养出冷血杀手的故事——乍一看，和诺曼的发展经历一模一样。

这就涉及到一个问题：人工智能该当有怎么样的代价不雅观？

人工智能终极会发展为什么样的模型，全看人类给它的“养分”，也便是大量的数据以及算法。
但这一过程实在有人为的方向在里面，换言之，任何一个人工智能模型，实在都是人类刻意为之的成果。
诺曼和TAY的例子，证明了有偏见的演习数据会对人工智能本身造成极大影响，但就现阶段而言，是不存在“绝对中立”的人工智能。

缘故原由在于，现阶段的“人工智能”实在并不能被称为真正的人工智能，它没有自主性，也没有自我意识，统统的活动都在人类方案的范围内进行，更像是人类的工具。
此前，网红机器人“索菲亚”得到了沙特的公民身份，还与人类对答如流，金句频出，乃至开玩笑说要毁灭人类，但她被人工智能业界同等吐槽：这些话都是设定好的程序，现阶段根本没有真正的“人工智能”。

这时候，人工智能的代价不雅观实在就代表着人类的代价不雅观。
再举个例子，***资讯APP业界一霸今日（字节跳动），便是靠着人工智能算法进行个性化内容分发起家的，也是最早享受到人工智能红利的公司之一。
但是这种算法分发也招致很多非议，比如低俗内容横行、标题党专横獗、刻意打压竞争对手等等，乃至公民网也出来“三评算法推举”。

究其缘故原由，便是由于今日是有“私心”的，出于吸引流量、提高日活、在竞争中取得主动权的目的，今日的算法分发并不那么“公正”，也没有对低俗内容的限定（乃至有可能设置一些助长的算法），这时候人工智能技能无疑因此企业的代价不雅观作为标准，张一鸣乃至亲口说过：“低俗有边界，有一点点擦边的，并不是全部要去掉。
”

更别提，谷歌前些日子曾由于与五角大楼互助，将人工智能用于武器化等战役用场，有可能加速全自动武器的出身，这家科技巨子因此饱受舆论责怪。

人与机器的代价不雅观是否会产生冲突？

除了前面提及的技能问题和用场问题，人工智能代价不雅观面临的最大困境可能还是伦理。

以现阶段科技圈确当红炸子鸡——自动驾驶为例，这是即将落地的人工智能技能中，极度关乎生命安全的一个项目，现在让我们设想一个情景：一辆车在行驶的过程中，由于突发情形，即将撞到行人，这时候该当怎么选择？

如果驾驶者是人，可能会选择躲避或者故意撞车以避免撞到行人，而自己只会受轻伤或者无伤。
这是人类的正常反应，某种程度上来说，这种选择可以用最小的代价来保全事件双方的生命安全。

但全自动驾驶汽车则面临着一种困境：突发情形下，还是会优先保全搭客，如果严格按照设定好的安全规程来进行操作，发生交通事件致去世，谁来卖力？是机器，还是授予机器代价不雅观的科研团队？把这个场景再设置得极度一些，自动驾驶汽车碰着突发情形，往左往右打方向都会撞到人，左边是1个人，右边是3个人，机器和人做出的选择一定是一样的吗？

说到底，“程序伦理”和“人类伦理”的差别很大。
前段韶光，Uber无人车测试致去世案闹得沸沸扬扬，调查结果显示无人车将前方骑自行车的人误认为是“其他物件”，导致了事件的发生。
虽然这发难宜更多表明了Uber的自动驾驶技能尚有不完备之处，但“程序伦理”很随意马虎导致机器人忽略生命安全，并且带来一系列法律问题。

这也是自动驾驶技能打破频频，但人们仍旧会产生“迢遥间隔感”的缘故原由，在这些问题办理之前，无人车都会处于“有限条件下的自动驾驶”，人类不会放心地将交通安全和生命安全交到人工智好手上，由于我们不能确保机器的代价不雅观与人类的代价不雅观在一个频道上。
人类的优点在于，在代价不雅观正常的根本上，还具备应急、变通的能力，但人工智能还不能做到这一点，乃至存在被有心人利用的可能。

毫无疑问，人工智能会给天下带来前所未有的深刻改变，它带来的爆发力可能远远超过前三次工业革命。
在这条路途上，有人乐不雅观，也有人悲观，只有办理了人工智能的技能症结、代价不雅观和法律任务问题，才能让我们更放心地步入未来时期，而不是将《我，机器人》、《黑客帝国》等电影情节变为现实。