编者按：2020年即将过去，今年人工智能领域有哪些重大进展？位于北京的智源人工智能研究院请 “智源学者” 们从环球的研究成果中评比了一份年度造诣名单，个中有文本能力惊人的自然措辞处理预演习模型GPT-3，有惊艳构造生物学领域的AlphaFold2，也有不少中国学者的成果。
名单按对人工智能领域的主要性排序，会是谁拔得头筹呢？

撰文 | 全体智源学者

● 　● 　●

No.10

康奈尔大学提出无偏公正排序模型可缓解检索排名的马太效应问题

近年来，检索的公正性和基于反事实学习的检索和推举模型已经成为信息检索领域主要的研究方向，干系的研究成果已经被广泛运用于点击数据纠偏、模型离线评价等，部分技能已经落地于阿里和华为等公司的推举及搜索产品中。
2020年7月，康奈尔大学 Thorsten Joachims 教授团队揭橥了公正无偏的排序学习模型FairCo，一举夺得了国际信息检索领域顶会SIGIR 2020最佳论文奖。
该研究剖析了当前排序模型普遍存在的位置偏差、排序公正性以及物品曝光的马太效应问题等，基于反事实学习技能提出了具有公正性约束的干系度无偏估计方法，并实现了排序性能的提升，受到了业界的广泛关注和好评。

No.9

Google与FaceBook团队分别提出全新无监督表征学习算法

2020年初，Google与Facebook分别提出SimCLR与MoCo两个算法，均能够在无标注数据长进修图像数据表征。
两个算法背后的框架都是比拟学习（contrastive learning）。
比拟学习的核心演习旗子暗记是图片的 “可区分性”。
模型须要区分两个输入是来自于同一图片的不同视角，还是来自完备不同的两张图片的输入。
这个任务不须要人类标注，因此可以利用大量无标签数据进行演习。
只管Google和FaceBook的两个工为难刁难很多演习的细节问题进行了不同的处理，但它们都表明，无监督学习模型可以靠近乃至达到有监督模型的效果。

No.8

MIT仅用19个类脑神经元实现掌握自动驾驶汽车

受奇丽隐杆线虫等小型动物脑的启示，来自MIT打算机科学与人工智能实验室（CSAIL）、维也纳工业大学、奥地利科技学院的团队仅用19个类脑神经元就实现了掌握自动驾驶汽车，而常规的深度神经网络则须要数百万神经元。
此外，这一神经网络能够模拟学习，具有扩展到仓库的自动化机器人等运用处景的潜力。
这一研究成果已揭橥在2020年10月13日的《自然》杂志子刊《自然·机器智能》（Nature Machine Intelligence）上。

No.7

北京大学首次实现基于相变存储器的神经网络高速演习系统

2020年12月，智源学者、北京大学杨玉超团队提出并实现了一种基于相变存储器（PCM）电导随机性的神经网络高速演习系统，有效地缓解了人工神经网络演习过程中韶光、能量开销巨大并难以在片上实现的问题。
该系统在偏差直接回传算法（DFA）的根本上进行改进，利用PCM电导的随机性自然地产生传播偏差的随机权重，有效降落了系统的硬件开销以及演习过程中的韶光、能量花费。
该系统在大型卷积神经网络的演习过程中表现精良，为人工神经网络在终端平台上的运用以及片上演习的实现供应了新的方向。

No.6

清华大学首次提出类脑打算完备性观点及打算系统层次构造

2020年10月，智源学者，清华大学张悠慧、李国齐、宋森团队首次提出“类脑打算完备性” 观点以及软硬件去耦合的类脑打算系统层次构造，通过理论论证与原型实验证明该类系统的硬件完备性与编译可行性，扩展了类脑打算系统运用范围使之能支持通用打算。
该研究成果揭橥在2020年10月14日的《自然》（ Nature ）期刊。
《自然》周刊评论认为，“ ‘完备性’ 新观点推动了类脑打算”，对付类脑系统存在的软硬件紧耦合问题而言这是 “一个打破性方案”。

No.5

美国贝勒医学院通过动态颅内电刺激实现高效率“视皮层打印”

对付环球4000多万盲人来说，重见光明是一个遥不可及的梦想。
2020年5月，美国贝勒医学院的研究者利用动态颅内电刺激新技能，用植入的微电极阵列构成视觉假体，在人类低级视皮层绘制W、S和Z等字母的形状，成功地能够让盲人 “瞥见” 了这些字母。
结合马斯克创办的脑机接口公司Neuralink发布的高带宽、全植入式脑机接口系统，下一代视觉假体有可能精准刺激大脑低级视觉皮层的每一个神经元，帮助盲人“瞥见”更繁芜的信息，实现他们看清天下的梦想。

No.4

DeepMind等用深度神经网络求解薛定谔方程促进量子化学发展

作为量子力学的基本方程之一，薛定谔方程提出已经有90多年的韶光，但如何精确求解薛定谔方程，却一贯困扰着许多科学家。
2019年，DeepMind开拓出一种费米神经网络（Fermionic neural networks，简称FermiNet）来近似打算薛定谔方程，为深度学习在量子化学领域的发展奠定了根本，2020年10月，DeepMind开源了FermiNet，干系论文揭橥在物理学期刊 Physical Review Research 上。
FermiNet是第一个利用深度学习来从第一性事理打算原子和分子能量的考试测验，在精度和准确性上都知足科研标准，且是目前在干系领域中最为精准的神经网络模型。
其余，2020年9月，德国柏林自由大学的几位科学家也提出了一种新的深度学习波函数拟设方法，它可以得到电子薛定谔方程的近乎精确解，干系研究揭橥在 Nature Chemistry 上。
该类研究所展现的，不仅是深度学习在办理某一特定科学问题过程中的运用，也是深度学习能在生物、化学、材料以及医药领域等各领域科研中被广泛运用的一个远大前景。

No.3

深度势能分子动力学研究得到戈登·贝尔奖

2020年11月19日，在美国亚特兰大举行的国际超级打算大会SC20上，智源学者、北京运用物理与打算数学研究院王涵所在的 “深度势能” 团队，得到了国际高性能打算运用领域最高奖项 “戈登·贝尔奖”。
“戈登·贝尔奖” 设立于1987年，由美国打算机协会（ACM）颁发，被誉为 “打算运用领域的诺贝尔奖”。
该团队研究的 “分子动力学”，结合了分子建模、机器学习和高性能打算干系方法，能够将第一性事理精度分子动力学仿照规模扩展到1亿原子，同时打算效率比较此古人类最好水平提升1000倍以上，极大地提升了人类利用打算机仿照客不雅观物理天下的能力。
美国打算机协会（ACM）评价道，基于深度学习的分子动力学仿照通过机器学习和大规模并行的方法，将精确的物理建模带入了更大尺度的材料仿照中，将来有望为力学、化学、材料、生物乃至工程领域办理实际问题（如大分子药物开拓）发挥更大浸染。

No.2

DeepMind的AlphaFold2破解蛋白质构造预测难题

2020年11月30日，Google旗下DeepMind公司的AlphaFold2人工智能系统在第14届国际蛋白质构造预测竞赛（CASP）中取得桂冠，在评估中的总体中位数得分达到了92.4分，其准确性可以与利用冷冻电子显微镜（CryoEM）、核磁共振或X射线晶体学等实验技能解析的蛋白质3D构造相媲美，有史以来首次把蛋白质构造预测任务做到了基本靠近实用的水平。
《自然》（ Nature ）杂志评论认为，AlphaFold2算法办理了困扰生物界 “50年来的大问题”。

No.1

OpenAI发布环球规模最大的预演习措辞模型GPT-3

2020年5月，OpenAI发布了迄今为止环球规模最大的预演习措辞模型GPT-3。
GPT-3具有1750亿参数，演习所用的数据量达到45TB，演习用度超过1200万美元。
对付所有任务，运用GPT-3无需进行任何梯度更新或微调，仅须要与模型文本交互为其指界说务和展示少量演示即可使其完成任务。
GPT-3在许多自然措辞处理数据集上均具有出色的性能，包括翻译、问答和文本填空任务，还包括一些须要即时推理或领域适应的任务等，已在很多实际任务上大幅靠近人类水平。