编辑：张倩

预测繁芜的系统一定要用更多的神经元吗？在最新一期的《自然 · 通讯》上，俄亥俄州立大学的研究者给出了否定的答案。
他们找到了一种将储备池打算速率最高提升 100 万倍的方法，利用的神经元比原来要少得多。

在数学领域，有一个名叫「动力系统」的观点。
这一系统中存在一个固定的规则，描述了几何空间中的一个点随韶光的蜕变情形，例如钟摆晃动、管道中水的流动、湖中每年春季鱼类的数量等。

然而，动力系统就像景象一样，是很难预测的，由于初始条件下眇小的变革能带动全体系统的长期的巨大的连锁反应，这便是我们所熟知的蝴蝶效应。

为了更好地预测动力系统随韶光的蜕变，干系研究者在本世纪初提出了一种名为「储备池打算（Reservoir computing ）」的机器学习算法。
这是一种模拟人脑事情办法的打算方法，在预测动力系统蜕变方面非常有效，研究者也一贯在这条路上不断改进。

在最新一期的《自然 · 通讯》杂志上，来自美国俄亥俄州立大学的研究者公布了他们在储备池打算研究上的新进展。
这些研究者表示，他们找到了一种新方法，将储备池打算的速率提高了 33 到 100 万倍，而所需的打算资源和数据输入却大大减少。
他们将这种方法称为「下一代储备池打算」。

论文链接：https://www.nature.com/articles/s41467-021-25801-2

这项研究的一作兼通讯作者为俄亥俄州立大学物理系教授 Daniel Gauthier。

共同作者包括克拉克森大学电子与打算机工程系教授 Erik Bollt、俄亥俄州立大学物理学博士 Aaron Griffith 和俄亥俄州立大学物理学博士后研究员 Wendson Barbosa。

这项研究还得到了美国国防高等研究操持局（DARPA）的支持。

在针对新方法的一次测试中，研究者在台式电脑上只用不到一秒的韶光就办理了一个繁芜的打算问题。
如果利用当前的 SOTA 技能来办理该问题，研究者要用到超级打算机，而且须要更长的韶光。

下一代储备池打算：用更少的神经元作出更准确的预测

储备池打算利用人工神经网络来预测动力系统的蜕变。
研究者将动力系统上的数据输着迷经网络中一个由随机连接的人工神经元组成的「储备池」中。
该网络产生有用的输出，研究者可以阐明该输出并给出反馈，从而建立一个越来越准确的蜕变预测系统。

系统越大、越繁芜，期望预测的结果越准确，人工神经网络就越大，完成任务所需的打算资源和韶光也就越多。
新研究紧张作者、美国俄亥俄州立大学物理学教授 Daniel Gauthier 说，这里的问题是，基于人工神经元的储备池是一个黑盒子，科学家们不知道它里面到底发生了什么，只知道它管用。

储备池打算核心的人工神经网络建立在数学根本上的，Gauthier 阐明说，「我们让数学家看一下这些网络，并见告我们里面的各种组件到底在多大程度上是必不可少的。
」

在这项新研究中，Gauthier 和他的同事调查了这个问题，创造全体储备池打算系统可以大大简化，从而显著降落对打算资源的需求，节省大量韶光。

他们在一个预测任务中测试了此观点，该任务涉及 Edward Lorenz 开拓的景象系统，Edward Lorenz 是蝴蝶效应的创造者，被誉为混沌理论之父。

在 Lorenz 预测任务中，研究者提出的下一代储备池打算技能明显优于当前的 SOTA 技能。
在一台台式机上进行的一个相对大略的仿照中，新系统的速率是当前模型的 33 到 163 倍。

但是，当目标是达到 great accuracy 时，下一代储备池打算要快 100 万倍。
Gauthier 说，新方法只须要 28 个神经元就能达到原来 4000 个神经元才能达到的准确率。

速率提升的一个主要缘故原由在于：与上一代储备池打算比较，新一代储备池打算背后的「大脑」须要的 warmup 和演习要少得多。

Warmup 指的是须要作为输入被添加到储备池打算机，从而为其实际任务做好准备的演习数据。
「我们的新方法险些不须要 warm 韶光，」Gauthier 表示，「目前，为了 warmup，研究者必须放入 1000、10000 个乃至更多的数据点。
这些都是实际事情中不须要的数据。
我们只须要输入一两个或三个数据点。
」

一旦研究职员准备好演习储备池打算机进行预测，下一代系统须要的数据就会少很多。

在 Lorenz 预测任务的测试中，研究职员利用 400 个数据点，就得到了与上一代储备池打算机利用 5000 个或更多数据点产生的相同的结果（详细数据点数量取决于所需的准确率）。

Gauthier 说：「令人愉快的是，下一代储备池打算采取了之前就已经非常精良的技能，大大提高了效率。
」他们操持将这项事情扩展到更繁芜的打算问题上，比如预测流体动力学。

「这是一个极具寻衅性的问题。
我们想看看，是否可以利用简化的储备池打算模型，以加快办理这个问题的进程。
」Gauthier 表示。

参考链接：

https://finance.ifeng.com/c/89lPtCkTHjU

https://news.osu.edu/a-new-way-to-solve-the-hardest-of-the-hard-computer-problems/