布赖恩·克里斯蒂安在其2020年出版的《校准问题：机器学习与人类代价不雅观》一书的媒介中讲述了人工智能神经网络观点的开端。

人们已经知道神经元会由于一个激活阈值而放电或不放电。
克里斯蒂安阐明说：“如果对神经元的输入总和超过这个激活阈值，那么神经元就会放电；否则，它就不会放电。
”

人工智能是受人脑启示的，但它到底有多像人脑呢？深度学习和人造神经网络方面的先驱约舒亚·本希奥谨慎指出，人工智能是对大脑中正在发生的事情的模拟，而不是复制。

蒙特利尔大学的打算机学教授本希奥说：“很多来自大脑的启示用到了现在得到利用的神经网络的设计中，但我们建立的系统在许多方面与大脑有很大不同。
”他阐明说，首先，最前辈的人工智能系统并不该用脉冲，而是利用浮点数。
他说：“工程职员不在乎复制大脑中的任何东西。
他们只是想做某种能见效的事情。
”

但正如克里斯蒂安所指出的，人工神经网络的运作与生物神经网络十分相似。
在认同这些程序并不完备像大脑的同时，加利福尼亚大学戴维斯分校的神经科学家和打算机科学家兰德尔·奥赖利说：“神经网络模型更靠近于大脑实际在做的，而不是打算层面的纯粹抽象描述。
”

奥赖利说：“这些模型中的单位正在做一些类似于大脑中真正神经元所做的事情。
这不仅仅是一个类比或比喻。
在这个层面上确实存在某种共性。
”

驱动GPT3和ChatGPT等大型措辞模型的更新Transformer架构在某些方面乃至比以前的模型更类似于大脑。

奥赖利说，这些较新的系统正在映现大脑不同区域如何运转，而不仅仅是单个神经元在做什么。
但这不是直接映现，而是奥赖利所说的“重新组合”或“稠浊”。

大脑有不同的区域，比如海马体和皮质，每个区域都有不同的打算形式。
奥赖利说，Transformer把这两者领悟在了一起。
他说：“我认为它就像一种糊状的大脑。
这种糊状物被散布到网络的各个部分，并做一些类似海马体的事情和一些类似皮质的事情。
”

奥赖利把Transformer之前的通用神经网络比作大脑参与知觉的后皮质。
他阐明说，Transformer到来后，它增加了一些类似于海马体的功能，他阐明说，海马体善于存储和检索详细事实——例如早餐吃了什么或上班的路线。
然而，全体人工智能系统并非有一个单独的海马体，而是像一个巨大的糊状海马体。

普通打算机必须通过内存中的地址或某种标签来查找信息，而神经网络则可以根据提示自动检索信息（你吃了什么早餐？）。
这便是奥赖利所说的神经网络的“超能力”。

大脑与神经网络的相似是惊人的，但差异或许是巨大的。
奥赖利说，这些模型与人脑的一个不同之处是，它们没故意识的基本要素。
他和在这一领域事情的其他人认为，为了拥故意识，神经元必须进行一次有来有回的对话。

他说：“意识的实质是，你对自己大脑的状态有一定的感知。
”做到这一点须要双向联结。
然而，所有现有模型只有人工智能神经元之间的单向对话。
不过，奥赖利正致力于此。
他的研究涉及这种双向联结。

并非所有的机器学习考试测验都基于神经网络，但最成功的考试测验是这样的。
这可能不该让人感到意外。
在数十亿年的韶光里，进化找到了创造智力的最佳办法。
克里斯蒂安说，现在我们正在重新创造并改造那些最佳做法。

他说：“事实证明，从生物上得到最多启示的模型是表现最好的，这不是有时，也不纯是巧合。
”

来源：参考网