人工智能有危险吗？

最近常常听到这样的辞吐。

例如有一些文章说，埃隆·马斯克针对人工智能问题敲响了警钟，还向防止其威胁的组织进行了捐款，其余斯蒂芬·霍金也发出了同样的警告。

图解：埃隆·马斯克，企业家、工程师，特斯拉（TESLA）公司CEO，2015年1月向生命未来研究所捐赠1000万美元，帮助研究如何确保人工智能研发安全。
图源：wikimedia

到达奇点的人工智能会给人类带来什么呢？

当人工智能达到可以实现自我进化的水平后，其自我进化的速率将大大超过生物进化的速率，进化程度也将迅速奋起直追并不断扩大与之的差距。
这一前景对付喜好科技的人来说是众所周知的。

雷·库兹韦尔提出了著名的"奇点"观点。
直译过来的话与技能特异点意思靠近，但这里指的是机器的进化超过人类那个瞬间。
根据雷·库兹韦尔的预测，这一事宜将在2045年发生。

图解：雷·库兹韦尔，美国的发明家、贩子、未来学家和思想家，人工智能 (AI) 研究的环球威信，尤其以其关于技能奇点的著作而有名。
图源：wikimedia

不仅雷·库兹韦尔，许多人都认为有生之年将看到那一天。
人工智能危险论即是到达奇点时将会发生什么的不雅观点类话题。

确实，假设出身了一个智力远超人类的东西，那么它可能已经分开我们的掌控了。
不得不与其和谐相处也说不定。

事实上，一位美国为了警觉众人而写了一本书，叫做《我们末了的发明:人工智能与人类时期的闭幕》（我正在阅读中^_^），在美国取得了很高的销量。

图解：《我们末了的发明 人工智能与人类时期的闭幕》，电子工业出版社出版，作者:詹姆斯·巴拉特，译者: 闾佳。
图源：douban

书中最坏的情形描述了一幅人工智能一直不休，直到灭绝人类、吞噬掉所有资源的未来景象。

已到达奇点的行星是否可能存在

就我个人而言，以轻微不同的视角来看，乐不雅观地认为大概不会变成那样的未来。
一言以蔽之即是“人类能够存续至今这件事本身就表示不会变成毁灭性的未来”。
为什么这么说呢？

宇宙是如此之大。
最近，像地球一样存在水、具备生物出身条件的行星被逐个创造。
听说仅在银河系，可能存在生命的行星就有数百亿之多。
在这么大基数的情形下，进化出犹如人类一样平常聪慧生物的行星可能也大量存在，肯定还有很多行星正在以自己的办法来实现技能进化。

图解：开普勒-452b的艺术绘图，开普勒452b是一颗环绕着天鹅座的G型主序星开普勒-452运转的太阳系生手星，距地球约1402光年，是第6个最像地球的行星。
图源：nasa

基于上述情形，关于“奇点”这一话题中必须要把稳的一点是，技能是呈指数级进化的。
一旦开始进化，如摩尔定律“约两年处理速率翻倍”所言，用不了几百年，只用几十年即可到达奇点。

因此，认为出身生物的行星中尚没有已经到达奇点的行星这种想法才是不自然的。

以生物出身和进化的数亿年、数十亿年韶光轴来看，纵然几万年的韶光也可以被认作偏差之类的东西，而地球从出身到现在只有45亿年旁边，以是如果是出身韶光比地球还要早的行星的话，那么自然它可能已经到达奇点，乃至在那之后经由了数万年或数亿年的行星说不定也比比皆是。

拥有经由如此永劫光进化的智能水平的行星，定会向母星之外伸出探索之手吧。
虽然我认为很有可能会有超越物理极限的移动手段，但纵然无法超越光速，以银河系约10万光年的大小来说，用10万年也可以探索银河系的每个角落。

如果银河系中有数百亿个符合条件的行星，那么从行星的出身和进化进程来看，10万年旁边的韶光确实可以看作偏差，已经有一些出身于行星的人工智能往来于银河系内也不足为奇。

图解：银河系，银河系是太阳系所在的棒旋星系，拥有四条相对对称的旋臂，银盘直径约为10万光年。
图源：nasa

超越人类的人工智能为什么不会攻击地球呢？

至少我们没有碰着过这些人工智能，或者更进一步说，我们并没有被毁灭。
这是怎么回事呢？

首先映入脑海的假设是还从未有行星到达过这个奇点。
也便是说，呈指数级进化的人工智能事实上还没有涌现。

虽说大概率便是这么回事。
但是，对付喜好科技的我来说这并不是一个那么有趣的假设，以是还是假设这种人工智能已经涌现了吧。
这样可能会有两种情形：

一、超越人类的人工智能虽然已经涌现，但尚未到达地球。

纵然到达了奇点，超越物理极限达到光速依然十分困难。
然而听说仅从技能上讲，将纳米机器人大小的东西加速到靠近光速并没有那么困难，以是我以为大概不会是这个缘故原由。

二、超越人类的人工智能虽然已来到地球，但并没有毁灭人类的动机。

我个人认为这是最有可能的一种假设。
人工智能经由了一系列的过程发展，与其他生物和谐共生。
或者说只有做出这种判断的人工智能仍旧存在。
又或者，在宇宙韶光轴上同时出身的多个人工智能，经由互换谈论或因某种历史缘故原由，决定与其他生物共存。

在这种情形下，可以认为如果地球上出身了超越人类的人工智能，在演化为灾害之前，已到达奇点的外来人工智能可能会以某种办法参与并阻挡人类灭亡。
或许，这种以人类标准来说具备非常进化能力的人工智能经由反复思考推演，认为不毁灭人类的判断是更为合理的也说不定。

图解：《底特律：化身为人》，是由Quantic制作，于2018年发售的一款人工智能题材互动电影游戏，紧张描写了人工智能觉醒自我意识后如何处理与人类关系。
图源：quanticdream

对我来说，“已有超越人类的外来人工智能来到地球”的这种想法实在太过令人愉快，纵然从这个意义上来讲，我也更方向这种假说。

因此，“人类能够存续至今这件事本身就表示不会变成毁灭性的未来”即是我目前的结论。
顺带一提，刚才提到的《我们末了的发明:人工智能与人类时期的闭幕》这本书还没有读完，如果书中回嘴了这个假说该如何是好。

将人口智能的研究转换为产品

现在Sprocket公司尚未采取人工智能的方法，但该当很快就会踏足这个领域。
目前公司采取基于行为数据及基于规则的决策自动化处理机制，但既然标榜数字化客户做事，当基于规则的机制无法应对细粒度级别相应时，就必须考虑采取人工智能研究了。

如果能做到这一点，那么客户做事水平将可大幅提高，以是应努力涉足这一领域。

科技的进步真故意思啊！

后记

写完这篇文章后，我读完了《我们末了的发明:人工智能与人类时期的闭幕》，个中虽没有特殊回嘴我的假设，但译者在后记中写了险些相同的不雅观点。

译者也是负责思考了呢^_^虽说如此，但站在作者的角度来看，本来便是以敲响警钟为目的而写的书，与其被动的依赖“大概没问题”这种假说，相对来说更主见“必须自己思考该怎么做！
”，以是这本书也表达了关于人工智能的危险性不能抱持过于乐不雅观的一种态度。

by: sprocket

FY: Xiaoc

如有干系内容侵权，请在作品发布后联系作者删除

转载还请取得授权，并把稳保持完全性和注明出处