邓磊:国内首个类脑计算博士造出一颗登上Nature的芯片_天机_芯片
关于 Innovators Under 35 China 榜单
自 1999 年起,《麻省理工科技评论》每年都会推出“35 岁以下科技创新 35 人”榜单,旨在于环球范围内评比出被认为最有才华、最具创新精神,以及最有可能改变天下的 35 位年轻技能创新者或企业家,共分为发明家、创业家、远见者、人文关怀者及先锋者五类。2017 年,该榜单正式推出中国区评比,挑选中国籍的青年科技创新者。新一届 2020 年度榜单正在征集提名与报名,截止韶光 2020 年 6 月 30 日。详情请见文末。
邓磊
先锋者
邓磊凭借其在类脑打算领域取得的一系列成果,荣膺 2019 年《麻省理工科技评论》“35 岁以下科技创新 35 人”中国区得主。
获奖时年事:29 岁
获奖时职位:美国加州大学圣塔芭芭拉分校博士后获奖情由:他是天下首款异构领悟类脑芯片“天机芯”的紧张设计者,用自动驾驶自行车验证通用智能的可行性。
“天机芯”的问世,集中展现中国科学家在类脑打算领域的研究能力和探索精神。
“旧神退散,新神未立”。
这句话可以用以描述近年来打算架构领域的发展。2017 年打算机图灵奖的两名得主 David Patterson 和 John L Hennessy 在一篇文章中也曾给出类似判断,即“未来十年是打算架组成长的黄金十年”。
类脑打算便被认为是打算架构创新的“新神”之一。
不过,对绝大多数人来说,这个出身于上个世纪 90 年代的观点究竟意味着什么,仍如一团迷雾。
2019 年 8 月,清华类脑打算施路平团队的“天机芯”成果成为 Nature 封面研究,让我们得以将“类脑打算”这一观点具象化,也一窥其作为新型打算架构的魅力所在。
这款环球首个异构领悟类脑打算芯片,不但支持类脑打算领域的脉冲神经网络,也可运行 AI 技能中的人工神经网络。它的处理能力成功在自动驾驶自行车这一运用处景中得到验证,也是海内团队在人工智能、芯片领域的研究成果第一次登上 Nature 封面。
作为这篇论文的一作,邓磊是海内第一个类脑打算专业毕业的博士生,可以说,他也是海内最早一批看到类脑打算未来的青年科学家。
邓磊本科在中科大精密仪器系学习,紧张研究机器人和光电系统,博士阶段加入清华大学施路平团队,真正进入类脑打算领域进行探索,也从零开始参与到清华类脑中央的建立。
这个团队要做的一件主要的事情,便是让两条都追求实现机器智能、却长期平行发展的技能故事线彼此靠近:
一方面,机器学习领域在 2012 年迎来标志性事宜——多伦多大学 Geoffrey Hinton 团队当时揭橥的一篇论文表明,用反向传播演习的人工神经网络(ANN)问鼎图像识别第一。此后,深度学习正式开启眼下这波人工智能运用浪潮,尤其带动AI芯片行业火热。
另一方面,“古老”的神经形态打算也酝酿出更多新的活气——诺贝尔医学奖得主艾伦·劳埃德·霍奇金于 1952 年提出脉冲神经网络(SNN)之后,IBM 于 2011 年发布了 TrueNorth 芯片,成为人类用电路仿照人脑 SNN 打算的出发点。在那之后,2014 年问世的第二版 TrueNorth 又印证了类脑芯片具备一定的实际事情能力。
这两大标志事宜涌现的韶光点,正值邓磊 2012 年结束本科学习、进入博士学习的阶段。不足为奇,在那期间,他在一场学术活动中打仗到了“类脑打算”这一观点,对此产生了极大的兴趣,而那场讲座的演讲者,正是异日后博士生涯的导师施路平。
彼时,“类脑打算”乃至在海内搜索引擎中都没有干系的条款。但邓磊认为,它将是机器学习和神经形态打算两个技能的结合,探索的问题也将更为实质和深刻,这对他产生了巨大的吸引力:这是一个无穷无尽的课题,只可能存在暂时的研究瓶颈,但不会走向消亡,它将长期存在,乃至直到人类命运的尽头。
图 | 邓磊在颁奖仪式上做演讲(来源:DeepTech)
“我更想去揭示人脑通用智能的奥秘,而不是单独地选择两个技能方向个中之一”,他说。
于是,当施路平 2013 年正式加入清华并启动筹办清华类脑打算中央时,邓磊也成为团队中的一员,正式开始其类脑打算研究生涯。
打造一个类脑打算平台,是团队首先面临的一个技能大考。而且这个平台须要差异于仅面向人工神经网络的加速器(常日所说的AI芯片),以及仅面向脉冲神经网络的神经形态芯片,而是兼顾两者表示出一定的打算通用性。
基于这个设想,团队于 2014 年 ~ 2016 年进行了芯片设计的事情,提出天机芯片架构,登上 Nature 的天机芯(此前还有一代产品)于 2017 年流片成功,并运用到了无人自行车这一场景中,干系的研究论文于 2019 年公开拓表在 Nature 上。
至此,同时支持神经形态打算模型、机器学习模型运行的天机芯,作为一个全新的打算硬件平台正式走进人们的视野,两大正处于高速发展阶段的智能技能成功在现实中涌现交融,一个新的出发点得以展开。
“天机芯片是天下上首个将上述两类打算模型进行异构领悟的打算平台,不仅能够支持单一范式模型的高效处理,还供应了稠浊建模的能力,可以促进对付新型神经打算模型的探索,推动人工通用智能的发展”,邓磊说。
详细的技能实现上,天机芯采取众核架构,每个核都可以自由配置成 SNN 单元或 ANN 单元,同时还可形成兼容模式,支持 SNN 和 ANN 作为输入输出的自由转换,实现 40000 个神经元,终极得以同时运行 SNN 和 ANN,一块芯片跑两类打算模型。
对付“天机芯”为何必要进行这样的领悟,邓磊进一步解读到,目前人们所熟知的人工智能技能(或者范围更小的机器学习亦或深度学习),其模型源于大脑神经网络,但在发展过程中更加方向于用优化问题建模并求解,可归类为运用导向的智能。由于与运用更加贴近而备受家当界的青睐,国外的谷歌、微软、Facebook 和海内的百度、阿里、腾讯、商汤、旷世科技等公司都热衷于这个方向的研究。而与上述的人工智能模型比较,打算神经科学的模型更加看重在脑科学上的可信度。
“前者的刚性建模办法导致诸多公认的毛病,比如可阐明性和鲁棒性的不敷、方向于单任务、依赖于大数据和高算力等,使得其难以实现通用的人工智能;而后者虽然有人脑这个目前已知的唯一通用智能体支撑,但由于目前对大脑打算事理的认识还远远不敷以形成比较明确的体系,导致其所建立的模型还难以取得超过机器学习的性能”,他说。
天机芯片出身之后,团队还配套开拓出第一代类脑打算软件工具链,可支持从机器学习编程平台到“天机芯”的自动映射和编译。目前,团队已经启动了下一代芯片的研究,预期明年年初可以完成研发事情。
值得一提的是,邓磊认为,开拓“天机芯”的最大寻衅并不在于某一个详细的技能难点,而在于人。
由于类脑打算本身过于交叉的学科背景,致力于这个方向的研究团队须要有精通脑科学、打算架构、人工智能、芯片设计、材料科学等各学科人才的到位,才能够驱动类脑打算研究得到不断的创新。这也正是伴随清华类脑打算中央从成立初期至今的主要命题。
据理解,早在 2012 年,清华大学就瞄准未来人工智能发展的前沿,通过人才引进布局类脑打算,之后在 2014 年依托精仪系成立告终合了七个院系的类脑打算研究中央,施路平教授作为类脑打算研究中央主任。现在,在这个中央,每天都有来自不同学科领域的顶尖头脑进行着聪慧的碰撞。
回顾起当初从零参与中央培植的经历,邓磊笑称:“没有学姐学长的觉得还是相称孤独的。” 但随着“天机芯”干系的后续研究连续沿着这个方向深入,他也相信,未来会有越来越多的人加入到这个极具寻衅的方向中,开拓出更多的可能性。
本文系作者个人观点,不代表本站立场,转载请注明出处!