对付这一点，造小就认为尤瓦尔师长西席同样陷入了技能决定论的误区。
意识是什么？意识出身于聪慧体对自身以及对外界的认知，它并不是什么玄而又玄的东西，只要拥有足够的智力和足够的认知能力，产生意识乃迎刃而解之事。
以是AI拥故意识，只是将过去在碳基平台上发生的持续串过程转移到硅基平台罢了。
而且貌似现在已近有人在动手这么做了。

人们常常问我，媲美人类的人工智能（AI）会不会终将具故意识。
我的回答是：你想让它具备意识吗？我认为，机器人能否醒来，紧张由人类说了算。

这听着有些狂妄。

在神经科学领域，意识的机制——我们为什么对天下及自我产生一种清晰而直接的体验——是一个未解之谜。
有人认为，这个谜团永久无法解开。
用客不雅观的科学方法来阐明人的主不雅观体验，这彷佛是不可实现的。
但自从人类开始负责研究意识以来，在25年旁边的韶光里，我们已经取得了长足的进步。
我们创造了与意知趣干的神经活动，对须要意识觉知的行为任务有了更清晰的理解。
在潜意识层面，人脑就能完成很多高等别的认知任务。

智能、意识、认知

我们可以试探性地得出结论：意识并不是认知的必要副产物。
人工智能该当也是如此。
在很多科幻故事中，机器仅仅由于其本身的繁芜性，就自然而然地发展出了意识，但更有可能的情形是，AI的意识要靠人类来设计。

从科学与工程学方面讲，这样做有着充分的情由。
我们对意识的无知便是缘故原由之一。
在18和19世纪，工程师们没等物理学家厘清热力学定律，就制造了蒸汽机。
当下亦如是。
环绕意识展开的辩论每每充满太多的哲学色彩，绕来绕去，却始终没有看得见、摸得着的结果。
而作为一个研究人工智能意识的小社群，我们的目标是从实践中学习。

其余，意识肯定有它的主要功能，否则，它也不会被进化出来。
这种功能自然也能为AI所用。
在这个方面，我们或许也被科幻故事误导了。
对小说和电视里的AI来说，意识是一种谩骂。
它们表现出不可预测的故意行为，而且人类的结局每每不是很好。
但在现实天下中，这类反乌托邦抱负真正涌现的概率很低。
AI即便带来风险，也不太可能与意识有关。
正好相反，故意识的机器大概还能帮助人类，参与管控AI技能的冲击。
相较于没有思维的自动机器，我更乐意与故意识的AI共享天下。

AlphaGo对弈天下围棋冠军李世乭的时候，很多专家就看不懂AlphaGo的棋路。
他们想得到某种阐明，理解它每一手棋背后的动机和情由。
此类状况在当代AI领域较为常见，由于这些AI决策不是由人类预先编程的，而是从学习算法和演习数据集中“呈现”出来的。
正是由于这种博识莫测，人们开始担心AI决策不公，或是太过武断，而且现在也确实涌现了算法歧视的案例。

从明年开始，欧友邦平易近将依法得到“阐明权”。
对付一个AI系统为何作出某个决定，人们有权要求干系部门作出审核。
这一新规定对技能的哀求很高。
目前，考虑到当代神经网络的繁芜性，我们还很难厘清AI的决策过程，更不用说将其转化为人类能够理解的措辞了。

意识，它究竟是个什么东西？

既然我们搞不懂AI的意图，何不直接去问AI？我们可以授予其元认知能力——即报告内心想法的自察能力。
这种能力是意识的紧张功能之一。
神经科学家在检测人类或动物是否具故意识觉知时，探求的便是这种自省能力。
举个例子，自傲是元认知的基本形式之一，随着意识体验变得不断清晰，自傲也会逐渐增强。
当我们的大脑在没有“把稳”的情形下处理信息时，我们会对那些信息不太确定；而在意识到某种刺激时，我们就会体验到高度的自傲：“我绝对看到了赤色！
”

任何小型打算机，只要预编了统计公式，就都可以对自傲作出估算，但还没有哪台机器具备像人一样完全的元认知能力。
一些哲学家和神经科学家想完善这样一种理念：元认知是意识的实质。
而所谓的“高阶意识理论”认为，意识体验是取决于感官状态这种一阶表征的二阶表征。
我们知道一个东西的时候，也知道我们知道这个东西。
反过来，假如缺少这种自我觉知，我们便是无意识的；我们将不知不觉地接管感官输入，作出相应行动，不会有任何觉知。

这些理论为我们构建故意识的AI指出了一些方向。
我和同事们正试着在神经网络中实行元认知，这样一来，它们彼此之间就能沟通自己的“想法”。
我们称这个项目为“机器征象学”，它借用了哲学中的征象学说法，通过对意识体验的系统性自省，来探究意识的构造。
为避免多此一举地教AI用人类措辞来表达，目前，我们的项目侧重于演习AI，使之发展出自己的措辞，用于彼此之间互换各自的自察式剖析。
这些剖析包括AI对任务完成办法的解释。
这在现有根本上更进了一步——目前的机器只能捐躯务的结果展开互换。
至于机器如何编码这些解释，我们并不作详细规定；在演习过程中，神经网络会发展出一种机制，对成功的互换进行“褒奖”。
我们还想进一步升级，在人类与AI之间建立沟通渠道，这样，我们就可以哀求AI给出阐明了。

除了授予我们某种程度的自我理解，意识还帮我们实现了神经科学家恩德尔·图文（Endel Tulving）所谓的“生理穿越”。
在预测自身行动的后果或方案未来时，我们是故意识的。
不用真的摆荡双手，我就可以想象摆荡双手是什么觉得。
当我人还坐在客厅的沙发上时，脑筋里就可以勾勒出去厨房泡杯咖啡的情景。

实在，我们对当下的感知也是意识所构建起来的。
这在各种实验和案例研究中都有表示。
有一些认知障碍患者，他们的视觉皮层受损，导致物体识别涌现障碍，无法说出物体的名称。
但是，这些人却可以伸手捉住物体。
若给他们一个信封，他们完备知道如何拿住它，然后塞入信箱。
但如果研究职员先向受试者展示信封，过一段韶光之后，再让他们去拿这个信封，受试者便无法完成“拿信封”这个动作。
由此可见，意识并不涉及繁芜信息的处理本身；只要有某种刺激物能即刻触发行动，我们就不须要意识。
当我们须要将感官信息多坚持几秒的时候，它才会发挥浸染。

在一类分外的生理学条件反射实验中，意识在“穿越”过程中发挥的主要浸染也得到了表示。
这是一种经典的条件反射实验，实验职员将一种刺激物（比如向眼睑吹气，或是电击手指）与另一种绝不干系的刺激物（比如某个纯腔调）匹配起来。
受试者无需故意识地努力，就能自然而然地将两者对应起来。
一听到腔调，他们就会不由自主地缩头，怕被吹气。
而当实验职员问他们为何会如此时，他们却无法阐明。
不过，只有当两种刺激同时发生时，这种下意识的行为才会发生。
若实验职员延迟第二种刺激，那么受试者只有在意识到这种关系之后，才会将两者联系到一起——也便是说，他们要能够见告实验职员：听到腔调，就意味着待会儿要被吹气。
受试者彷佛必须有所觉知，才能在刺激消逝之后，将影象坚持下去。

AI能够故意识吗？

这些例子解释，意识的功能之一，便是拓展我们面向天下的“韶光窗”——将当下延展开来。
在刺激消逝之后，我们的意识觉知会将感官信息保留一段韶光，其间保留它们的灵巧性和可用性。
当直接感官输入消逝之后，人脑会持续催生这种感官的表征。
意识所具有的这种延时性可以在实践中得到考验。
弗朗西斯·科里克（Francis Crick）和克里斯托夫·科赫（Christof Koch）提出，视觉输入中，只有很小一部分被大脑用来方案未来的行动。
如果方案是意识的关键功能，那么，只有这部分输入才能与意识挂钩。

上述例子有一个共同的主题，那便是反事实信息的天生。
它指的是对那些并不直接在我们面前的事物产生感官表征。
说它“反事实”是由于，它涉及对过去的回顾，或是对尚未实行的未来行动的预测，而不是外部天下正在发生的统统。
用“天生”一词是由于，它不仅限于信息的处理，同时也是一个创建假设与测试假设的生动过程。
在人脑中，感官输入从低级别的脑区流向高等别脑区（又称单向或前馈过程），逐步被压缩为更抽象的表征。
但神全心理学研究表明，这种前馈过程不论多么繁芜，都与意识体验无关。
要产生意识，你须要的是从高等别脑区流向低级别脑区的“反馈”过程。

通过反事实信息的天生，故意识的施动者就可以分开环境，进行非反射式的行为，比如，停三秒再行动。
要天生反事实信息，我们须要一个能够节制统计规律的内部模型。
这类模型可以用于多种用场，诸如推理、电机掌握和生理仿照。

我们的AI已经具备繁芜的演习模型，但要依赖人类供应学习数据。
而借助反事实天生，AI将能天生自己的数据，能自己设想未来可能涌现的情境。
这样，它们就能灵巧应对前所未遇的新状况。
AI也将因此产生好奇心。
如果不愿定未来将是何种状况，它们就会试着去想办法。

有时候我们都以为，我们创造的AI施动者已经出乎我们的猜想。
在一项实验中，我们仿照了能够在现实环境中驾驶卡车的AI施动者。
要让这些施动者爬坡，我们常日必须将“爬坡”设置为目标，然后由施动者找出最佳路线。
而一旦被授予好奇心，无需人类指示，施动者就能主动将山坡识别为问题，继而找出爬坡办法。
我们仍旧须要进一步的事情，才能让自己相信，这的确是一项创新。

如果将自察和想象作为意识的两大组成部分，乃至紧张部分，那么终极，我们将不可避免地构想出一个故意识的AI，由于很明显，这些功能对任何机器都有助益。
我们希望我们创造出的机器能够阐明它们的事情办法，以及它们的每一步意图。
构建这些机器须要人类发挥自己的想象力。
这也将成为对意识所具备的反事实能力的终极考验。

本文作者金井良太是一名神经科学家与AI研究职员。
他是东京初创企业Araya的创始人兼CEO。

翻译：雁行

来源：nautil.us

造就：剧院式的线下演讲平台，创造最有创造力的思想