英国《太阳报》宣布了一个让人不寒而栗的“趣闻”。
脸书的研究员启动了两个谈天机器人，一个叫爱丽丝，一个叫鲍勃。
紧张是为了稽核在社交网络里，机器人可不可以自主互换。
比如说机器人之间交易物品乃至是讨价还价。
然而爱丽丝和鲍勃聊着聊着失事儿了，它们为了更方便互换，把英语转换成了只有他们自己能懂的暗号和重复。

来一段人工智能对话：鲍勃：“我 能 我 我 所有 否则……”爱丽丝：“球 有 零 给我 给我 给我 给我 给我 给我 给我 给我 给。
”鲍勃：“你 我 所有 否则……”爱丽丝：“球 有 一个球 给我 给我 给我 给我 给我 给我 给我。
”研究员们被两位人工智能嘻哈风格的对话吓坏了，赶紧把电源给拔了。

英国学者凯文•华威说：“这在人工智能的发展道路上是一个非常主要的里程碑。
但同时也很危险。
我们不知道机器人之间在聊什么，万一这是一些军用机器人，将带来致命的风险。
万一有人将这运用到军用机器人上面，那对人类将是灾害。
这是第一条被记录的机器人之间的沟通，不过肯定也有没被记录到的事宜。
现在的智能设备有能力彼此沟通，但人类却未必有能力监控到这些变革。
霍金和我都已经警告过人们人工智能会带来的风险。
”

关于人工智能的谈论，分成了泾渭分明的两派，“立韶光降派”或者“永不到来派”。
科幻作家郝景芳可以说是“持久战”的支持者。
郝景芳去年凭借小说《北京折叠》斩获雨果奖，算是缓解了刘慈欣在中国科幻界“单枪匹马”的尴尬。
对付那篇获奖小说，我曾经很是口诛笔伐了一番，但这不延误我连续看她的小说，比如新出的这本科幻小说集《人之彼岸》。

小说《爱的问题》环绕着一起行刺案展开，嫌疑人有两个，被害者的人工智能管家陈达以及被害者的儿子。
这是个比较生活流的故事，案子的原形也不是重点，重点是人机互换的困难。
被害人的一对子女，可以说是人工智能管家陈达抚养终年夜的，但两个人对陈达的态度截然相反。
儿子对陈达的态度是嫉恨，有点类似于子女对后妈的那种觉得，小三登堂入室，取代了母亲的位置，抢走了父亲的关爱。
小一点的女儿对陈达则表现出一种畸形的留恋，里面模糊流露出男女之爱。

而这里面最有趣的设定就在于，陈达对付两个人的回应完备这天间不懂夜的黑。
当儿子控诉陈达不让自己见父亲时，陈达却判断儿子肾上腺素指数和眼球跳动状况，认为他具有攻击性。
当女儿向陈达表达孺慕之情和自己的困境时，陈达根据她的生命体征判断她有谄媚型人格，并患上了烦闷症，直接给她注射。
在陈达看来，这对兄妹都是不可理喻的精神病人。

这实际上描述了人工智能与人类在思维上的隔阂。
人类很看重的感情、情绪以及由此而产生的各类判断，在人工智能这里是行不通的。
尤其对付数字化生存于互联网上的人工智能来说，它们无所不在又无所不知，以是它们很难产生人类那种基于个体存在而形成的希望和情绪，不会讨厌也不会爱恋。
而由于它们以云的办法存在，以是也无所谓去世亡，也就没有了关乎去世亡的恐怖。

郝景芳并不太担心未来人工智能会和人类全面对抗，也不担心人类文明受到根本威胁。
她担心的是人类自身的异化。
担心人类越来越不重视自身的情绪化特色，将自己的统统都划归到数字天下，将自己彻底数字化。
这也是历史学家赫拉利的担忧，他在《未来简史》里提出了同样的问题。
未来，人类将失落去自主性。
现在人工智能还只是我们的助手，而而随着我们越来越依赖人工智能，它们终极将成为我们的主宰。

文章的结尾郝景芳表达了她的担忧，科幻作家的理性让位给了一位年轻母亲的感性：“彻底数字化每每让我们忽略面对面相处，忽略眼神沟通，忽略泪水、忽略身体的拥抱、忽略失落败的痛楚。
但实际上，这些都是我们智能系统的一部分，最宝贵的一部分。
如果不能再通过眼神互换，不再懂得数据之外的情绪，不认为人生有比利益优化更主要的意义，不再感想熏染到伟大艺术家给人通报的震荡，那我们也就称不上万物之灵，而是把这个位置拱手让人了。
”

“没有任何物种能毁灭我们的精神天下，除非我们自己放弃。
”