“不管你承认不承认，或者看得见看不见，实在我们已是被包围在一个人工智能的天下里面了。
我以为无可避免地，这是一个切实的干系我们每天生活的话题。
”作家永城说。

日前，作为第29个天下读书日特殊策划，“人类如何与AI深度共存——永城作品《莫莉和森克》分享会”在南都读书俱乐部线上举行。
中国商业犯罪特工小说第一人、著名作家永城为读者们带来了一场活泼有趣的关于AI与人类生活的畅想。

永城曾经的职业身份造诣了他繁芜的写作背景。
他是前跨国商业调查公司副实行董事、机器人工程师、国际注册反敲诈调查师。
上世纪90年代进入清华大学机器工程系，后留学美国，攻读人工智能、机器人专业，研究军用仿生学丛林侦查机器人的开拓和生产。
硕士毕业后在硅谷任机器人工程师。
2006年加盟被誉为“华尔街神秘之眼”的环球顶尖商业风险管理公司，数年间由普通调查剖析师晋升为副实行董事，领导中国区业务。

如今，永城的另一个主要身份是作家。
他的代表作有《头等舱的贼》《网中人》《国贸三十八层》《秘密调查师》系列小说。
2017年，他的首部科幻长篇《复苏人》在《中国作家》刊发后得到好评。

《莫莉和森克》是永城今年在作家出版社出版的最新长篇。
这是一部智能科技犯罪小说，充满紧张的调查情节和繁芜的人际关系。
莫莉的坚韧与森克的逐渐人性化构成了一场独特的互助，而他们的友情让民气生感慨。
这部小说交织了科技、人性和情绪，为读者呈现了一场超越人机关系的引人寻思之旅，被誉为中国智能科技商战版《克拉拉与太阳》。

在讲座中，永城通过向读者提问的办法，阐述了自己对当代AI科技发展的认知，先容了《莫莉和森克》这部小说写作的缘起，谈到以第一人称AI视角展开阐述的寻衅，并揭示出通过这部小说试图磋商的现实问题。
永城认为，AI来自于人类大脑，是人类大脑的延伸，以是它理应具备人类的很多特质。
当下的AI还处于幼年阶段，永城指出，就像一个家长对待自己的孩子，人类对AI的未来也负有任务。

讲座精华实录

1

我们身边都有哪些AI是生活中一定会碰着的？

读者：苹果手机的siri。

永城：Siri的确是个AI程序。
我们现在有了更高等版本的人机对话程序了，比如说像Chat Gpt，还有便是open AI做的东西等，都是可以跟你对话的，而且它的这个对话能力该当是超过了Siri。
除此之外，还有很多的人工智能运用在包围着我们。
手机上面险些每一个App都在利用人工智能的算法。
很多互联网运用也都会有AI算法在背后来支撑。
当下开车、购物、导航、智能家电等，人工智能无处不在。
你去4S店想买车或者去售楼处想买屋子，4S店、售楼处也都有摄像头，摄像头本身并不是一个AI，但它是AI的一个部件、AI的眼睛，会抓取“数据”。

2

你以为这些AI都在做什么？

读者：……

永城：这个问题便是除了你知道的以外，这些AI还在干什么？它们知道哪些你以为它们不知道的？这句话听着有点拗口，便是这个AI跟你很密切干系但是又让你不知道的那部分是什么？

这时候就可以说到我们的这个故事，《莫莉和森克》，由于这部小说的主人公森克便是一个AI人工智能。
它是一个无处不在的系统。
它是一个超级公司自己安装的，专门给公司内部高层和做秘密调查的这些人做事。
小说里的森克程序无所不能，是非常厉害的一个角色。
在《莫莉和森克》故事里，森克在为公司的主要人物供应数据，由于它可以手眼通天、眼不雅观六路耳听八方，获取很多数据，比如说这个集团在全天下所有子公司里面装的摄像头、麦克风，还有每一个员工利用的电脑数据，它全都能看到。
这个跨国集团是做手机App的，全天下有几亿人都在利用。
那么这个森克系统就能够通过这些App不雅观察这几亿人的手机摄像头、麦克风、定位等很多数据，以是森克实在是威力无边的。

这个故事便是在讲这个跨国公司的内部有一个内部调查师，一个女孩儿，她叫莫莉。
她接手了一个商业特工入侵公司的案件，她卖力调查，就找了森克帮忙。
她的上级授权让她利用森克程序。
莫莉跟森克在一起调查的过程中，我们刚才说的森克程序能力非常强，它帮着莫莉，一步一步地紧密互助。
但他们在互助过程中也不是特殊顺利和愉快，两个常常闹抵牾。
这两个性情差异太大了，一个是严谨教条、不解风情的森克程序，但是莫莉这个调查师性情比较乖张，特立独行，脾气也比较暴躁，特殊外向冲动。
她不是特殊合格的一个调查师，当然故事里她为什么会当选中也是有缘故原由的。
但是莫莉和这个程序之间的互动很故意思的，虽然冲突非常大，但毕竟还是在一起互助，然后他们从一贯有争执抵牾，逐步地变得能够和谐地并肩战斗，从北京一贯到杭州，再到意大利的都灵。
到那儿就落入意大利黑手党的陷阱，斗智斗勇，触目惊心。
森克程序跟莫莉之间的互动，从一开始的敌对状态到末了一起互助，然后又结下深厚友情，这方面也蛮故意思。
而且由于莫莉对待森克的态度，让这个森克程序的确有所改变。
它实在有一些觉醒，有一些意识，由于森克程序本来有一个目标，便是它要越来越像人，它希望它的开拓者给它制订的目标便是让它越来越像一个真人。
但是之前都没怎么开窍，由于它便是个程序，但是碰到莫莉之后，还真的发生了一些变革。
由于莫莉太无厘头了，常常跟它无理取闹，我估计之前没有任何一个利用这个程序的人是这么对待它的。
以是它自己一开始是非常迷惑，很混乱，但末了逐步地就对这种更真实的人性有了更多的理解，它根据这个再去思考，可能就有那么点儿开窍，所以是挺好看的一个故事。

3

如果AI是一个人，或者任何一个你正在利用的AI是一个人，你以为ta该当是男生还是女生？具有什么性情？

读者A：女生。
原谅、细心、沉稳。

读者B：男的，睿智，啥都会的。

永城：我来直接回答这个问题。
我以为绝大多数人都会认为这个AI肯定是个男性，由于它特殊的理性，而且得是一个理工男吧。
实在这是有道理的，由于AI程序大部分是理工男写的，对吧？那谁写的它就像谁，以是AI程序一定看上去非常理性，而且不敏感，很教条主义、不解风情等等，这实在便是小说中森克一开始的样子。
那我就想问问大家，你希望这个程序是这样的，还是你希望它不是这样的，你是不是希望这个程序能够多一些更感性的部分？

有同学说希望AI是女性，显然她对AI的哀求已经超过了我们现在的AI能够给予的东西了。
由于她哀求AI能够更理解人类，便是利用者，乃至能够给这个利用者更多情绪和生理上的支持。
其余一个朋友说以为AI该当是男性，而且说它该当能办理所有问题，这是从实用主义的角度来说。

我以为这两种说法都对，便是AI的一个发展的方向、一个趋势。
你看为什么Chat Gpt涌现往后，大家很愉快，全体天下都为之沸腾，便是由于你会以为它彷佛能够对人类的措辞，对我们问它的那些话，它的理解力增强了，它试图在理解我们了。
而且有时候它的回答乃至能够给你进行一些更深入的生理上的咨询，当然这个未必出自于它自己的思想，由于目前的AI未必真的具备这么强的思想，但是至少它的深度学习算法让它能够在表面上给人类起到这个浸染。

从这个功能的角度上来说，AI的功能越来越强大了。
刚才我们也说过了，AI无处不在，我们家里有智能的机器人、扫地机器人、冰箱、电视、监控，我们有我们的手机、有电脑，走到街上出门有智能汽车，走到商店或者4S店里有智能的人脸检索系统，它们在网络我们的数据。
如果我们有一个AI程序，像这个小说里的森克程序一样，它有更强大的数据来源，它能够把不但是你的手机、你的汽车、你的这些东西的数据，还有外边的比如说便利店的数据、4S店的数据，还有很多公司的数据，它都节制。
那你想想，不管是男性还是女性，便是这么强大的AI程序，你以为你特殊须要它为你做事呢，还是以为它是一个很胆怯的事情？但我可以见告你，它的存在实在一点儿也不难，由于所有的这些数据都在互联网上，对吧？

《莫莉和森克》小说有一个比较大的特点，便是它是从森克程序的视角，以它为第一人称的“我”来阐述的。
这个难度实在很大，也是一种寻衅，由于主人公不是人，它是一个程序，而且它不但不是人，它还不是个机器人，它没有一个机器人的形体。
但是它挺强大的，它的触角在全天下各个地方。
但是它本身又是一个程序，以是就比较纯挚，一开始的思维模式又非常程序化，逐渐它才发生转变，以是这是小说的一个特点，也是难点。
但便是从这个AI的视角，想让读者去理解我们身边这些AI、这些数据，在我们周围的这些摄像头、手机，所有的监控、家电，所有这些设备的数据都归根到底如果到了一个AI眼睛里，这个AI看到的可能是什么，它从中得出来的结论可能是什么，然后它用这些数据可能做到什么，这个是故事里跟AI最干系的一些。
这不能完备地想象成是科幻，由于实在目前有很多正在发生。

小说还进行了一个更深的磋商，也便是人类肯定会要面临的一个问题，便是AI如果它有了这么多的数据和跟人类的浩瀚打仗之后，它会学到什么。
就像这个森克程序，它一开始是有一套人类思维的，这是程序员开拓者给它输入的，但它在跟人类打仗和交往的过程中，又在重新学习人类。
它可能一开始的时候以为它懂，但是逐步又以为它不懂人类了。
为什么呢？它会创造，人类的行为实在有时候是不理性的，它没法用打算机程序的逻辑来阐明。
人类的一些措辞彷佛是表里不一的、是虚伪的，他讲的跟贰心里想的不一样，以是程序又须要再去学习和摸索人性，这也是蛮故意思的一部分。
你读这个小说，包括我写的时候，可以跳脱一个人类成员的角色，摆脱人类视角，再从外界视角去看人类是什么样子的，这实在对我来说便是很故意思的一个经历。

在《莫莉和森克》这个故事里，森克程序也的确是发生了这样的奇妙变革，由于它在情绪方面跟莫莉打仗得太多了。
实在这便是下一个问题，我以为大家可以发挥一下想象力，虽然到目前为止咱们实际上在生活中还没发生这样的事情，但是我们不妨想象一下。

4

如果一个AI想要学习人类的情绪，比如爱上一个人，你以为它能办到吗？

读者：可以做到唯命是从，但该当不是爱。

永城：为什么要选择用森克的视角来讲这个故事，便是由于可以跳脱人类这个角色，从不是人的角度去不雅观察人，然后总结一些规律，我以为这是很新奇的觉得，也是很故意思的考试测验。
其余便是从AI的视角去讲，我以为能够让我的读者更深刻地觉得到我们隐蔽在周围的AI是什么，它们能得到什么，能够更深刻地让大家体会到这一点。

有朋友说，如果AI爱上了一个人的话，它就一定可以做到唯命是从，但它不一定真的能像人类那么爱。
正好这个森克的表现就不是完备的唯命是从，为什么呢？由于这个森克程序还挺诚挚的，由于小说里莫莉这个女调查师特殊无厘头，挺爱逗森克程序的，而且还有点拿它当出气筒等等。
莫莉有时候提出特殊无理的哀求，但是森克做不到，比如说不能给你这种数据由于这是违法的，或者不能给你这些授权由于我没有这些授权，或者说这件事儿我办不到，能力不及。
然后莫莉就会撒娇或者发脾气，说你该当好好学习学习，你该当宠着我一点儿，你该当知足我的哀求。
莫莉说，你不是很想变成一个真人吗，那你能不能先当我的男朋友，学习爱上我，为什么呢？由于你只有学会了人类的爱，你才能更像一个真人。
她自己可能便是随口说的，但是森克程序就很负责，把这个事儿很当真，由于它以为说得有道理，以是它真的就学习人类的爱是什么样的。
它特殊负责，从互联网高***了5万部用不同措辞在不同国家出版的爱情小说学习，学习完往后，它就创造爱真的是特殊繁芜的一件事情。
不是唯命是从，也不是无私的，便是爱实在是很繁芜的，绝对不是一个程序以为的无私奉献的那么一种感情。

读者：我以为机器人的爱可能是对人的依赖、对人的保护。
看待AI，要跳出人类所固有的思维办法。

永城：机器人对人类的爱，如果是说大爱的话，由于我们是作为程序编程师，我们哀求这些机器人或者AI程序保护我们或做事我们，这是我们在程序里提出的哀求，以是这个程序在遵守这些哀求而已。
这并不代表它们从生理上，如果它们真的故意识的话，它们的意识上一定会乐意保护人类，或者说无私地为人类奉献，我以为这不一定是它们真实的欲望。

以是我们就到了一个更深层次、更伦理性的问题，便是AI它到底会怎么样看待人类，如果有一天它有思维或者有能力去看待人类的话？它将会从我们人类这里学会什么，然后它怎么面对人类？现在的AI程序还是非常根本的，但是已经在用深度学习的算法，更多是要让这个程序依赖于从互联网上获取的大量数据和信息，自己去总结和归纳，然后去打算出它对应的办法的做法，而不再是完完备全地依照我们人类输给它一个指令干事。
这就使AI未来可能会变成什么样子，有一定的未知性。

实在可以打一个比方，正在利用和研发的人工智能，是人类编程师创造出来的，也可以算作是人类的一个孩子。
但是它现在非常小，该当还算是婴儿，或者是跟婴儿的智商差不多。
但是技能在飞速发展，我们并不知道它未来会不会真的发展变成儿童，或者变成少年，或者变成青年，或者变成成年人。
如果它的智力能够这样去发展的话，那未来它会是一个什么样子，它们会对人类怎么理解，或者做出什么样的事情？我以为这也是这个小说想要试图提出的一个问题，也是这次分享会最主要的一个问题。

5

如果把AI当成人类的孩子，当它终年夜往后，会变成一个年夜大好人还是坏人？

永城：就像是我们人类的孩子一样，从婴儿开始，到幼儿、到童年，终年夜的过程中他要接管非常多的信息，那这些信息实在有相称一部分是他的家长、周围的人，还有老师、学校给他的教诲，跟他讲你必须要怎么样，什么是对的、什么是错的。
但是未必这些教诲便是百分百有效的。
一个人末了发展起来是一个什么样的人，有什么样的道德准则，有一部分来自于他接管的教诲，但其余一部分可能来自于他的不雅观察、来自于他的体验，他亲自的体验，而不是谁教给他说该当怎么做，大概来自于他的模拟。

以是在这个故事里，我也想磋商森克程序这个人工智能它在发展的过程中，实在我们并不愿建都投喂了它什么东西，我们也并不知道它到底都抓取了些什么、在学习什么。
如果这个算法更高等一点的话，现在的深度学习算法可能还不是最完美的算法，但是我想算法肯定会越来越高，但是这就意味着我们有可能对人工智能的发展越来越失落控。
我不知道大家有没有这个履历，反正我是用过Chat Gpt，有的时候你问它很多问题，或者让它干工作，它做得非常好，效率也很高，也很准确。
但是也有一些问题你问了往后，它给你胡说八道，它给你的答案就不知道从哪找来的，当然它可能不清楚这些信息源哪些是可信的、哪些是不可信的，这解释现在它智力还不足发达，还比较幼小。
但是未来，你实在也依然不能确定它得到的那些信息源从哪来的，它得到的代价不雅观从哪来的。
这实在有一点像人类孩子们的发展过程，未必完备按照你希望的那个方向去发展。

有一位朋友说，情绪对AI来说未必像人类这么主要，而且看待AI一定要跳出人类所固有的办法。
我完备赞许，由于人类是特殊主不雅观的，我们对任何事情总是以自己的视角去想象，这个也包括我们日常之中人际关系的相处，很多问题都出在这里。
总以自己主不雅观的视角体验去想其余一个人，就出了很多沟通上的问题。

但是回到AI的角度，我们即便跳脱了人类的感想熏染直接从它的角度想，目前它可能便是一个婴儿，那它未来的发展如果变得更成熟或者更聪明，或者变成独立的意识体之后，它一定会有它的诉求，这个是肯定的。
它的诉求未必是像我们人类千篇一律的，便是对物质、对财富、对感情、对精神的这些诉求，它有可能有别的须要的，那些诉求是什么？我始终认为，由于这个程序是人类把它生出来的，AI不是来自于自然界，也不是来自于宇宙，不是来自于外太空，它是来自于我们人类大脑的，你可以把AI算作是人类大脑的一个延伸，以是它该当具备人类的很多特质。
那么当这个AI发展成一个成年人之后，它会不会是我们空想中的样子？如果这个AI有朝一日，我们这样去想象，如果它真的能够爱，有爱的能力的话，它会不会爱我们人类？在这一方面实在我并不是特殊的乐不雅观，由于在它是婴儿的本日，我们实在并没有仔细地考虑这个问题，我们只是把它当成纯挚的一个工具来考虑，比如说你家里的吸尘器、一部电话、一台智能汽车等等，便是我们现在只是把AI当成工具来看待，我们并没有把它当成意识体未来可能会发展。
我们知道互联网是有影象的，以是本日我们做的所有事情，包括细节数据，它都是有可能永久地保留在它的系统里面的。

以是这个便是这部《莫莉和森克》小说想要提出的一个问题，当然没有给出答案，由于我以为给出答案太困难了，这个也不是我们现在任何一个人都能做的。
但是我们至少可以提出这样的一个问题、一个困惑，像这个小说终极结尾提出这样的一个问题，便是我们实在要不要考虑怎么样为未来的AI去负任务。
就像一个家庭，家长要考虑自己未来终年夜成人的那个孩子，现在就要考虑怎么样为他的未来负任务，我以为这是值得磋商的，这个便是通过小说我想分享的主题。

答读者问

读者：《莫莉和森克》目前是否有影视改编操持？

永城：《莫莉和森克》是一个很类型化的作品，是悬疑作品，又融汇了高科技犯罪、商业谍战，还有情绪，虽然是人工智能和人类的情绪。
多种元素领悟在一起，该当是非常适宜影视化的作品，但它同时在影视化的时候又会有很高的难度。
我很希望有影视公司会对这个选题感兴趣。

读者：在以AI森克的视角来叙事的时候，是须要跳脱人类的视角和思维模式来看问题的，会对我们的日常生活、情绪和行为产生哪些不一样的感触？比如有没有我们习以为常的征象，在AI的眼中却荒诞又古怪？

永城：我以为这个体验特殊好玩，由于你用AI视角去写，首先得进入一个AI的状态，它的语境和它的思维模式，这是一个非常程序化的东西，实在跟这个小说创作之前的体验差距特殊大。
我在试图进入这个角色的时候，一开始是有点困难，但是后来逐步就以为又很自若了。

读者：《莫莉和森克》的内核实在是一个悬疑/罪案故事。
你更方向于本格派推理还是社会派推理？有没有喜好的推理小说作家？

永城：实在我对推理小说的研究没有那么深入，尤其是在理论方面。
我早期看过很多推理小说，后来也有看，但比重变得越来越少了。
最早看得比较多的是丹·布朗，后来看日本推理多一些，像东野圭吾。
还有特殊经典的像阿加莎·克里斯蒂、福尔摩斯等。
所有的悬疑推理故事里边分两种，一种便是情节设置得特殊繁芜，还有一种便是人物刻画非常深刻。
我自己开始创作悬疑小说的时候，比较方向于前者，但后来我逐步地就以为，这样写出来的故事，人物彷佛没有那么精彩，我在创作过程中也没有得到特殊多的知足。
以是我后来对付特殊类型化的悬疑小说读得就少了一些，读文学化的作品更多一些。
但这并不虞味着我就会特殊地想去写纯文学的东西，由于我还是很喜好讲这种节奏很快的、很紧张的故事，但是在讲这种故事时候，我以为我更侧重的或者让我更愉快的是去刻画这些人物，就像《莫莉和森克》这个小说，我最愉快的便是由于森克这个“人物”。

读者：《莫莉和森克》里涉及的科技部分，包括算法、云打算、数据库共享、人脸识别、AI设计等等都写得十分硬核精确。
叨教永城老师是通过什么办法理解到这些专业知识的？是否有请教过业内人士？

永城：我创作这些高科技元素，有一部分是由于我自己本身是学理工的，特殊是学人工智能的。
后来由于在做商务咨询，都是有关于风险投资、风险掌握，还有很多危急管理和商业调查，那这时候也打仗各行各业。
由于高科技创业这一块实在是金融类特殊关注的热门东西，项目也特殊多，以是我一贯都特殊关注高科技方面的进展。
其余有些新的技能，你再去看书，看专业的东西，基本上就能跟上。

采写：南都 黄茜 演习生 陈铭心羽