消除冯·诺伊曼瓶颈 Imec和GF合作展示新型人工智能芯片_内存_瓶颈
这款芯片的能效达到了创记录的 2900 TOPS/W,是低功耗设备边缘推理的主要推动者。这项新技能在隐私、安全和延迟方面的上风,将对从智能音箱到自动驾驶汽车等多种边缘设备的人工智能运用产生影响。
从数字打算机时期初期开始,处理器和内存是分开的,因此利用大量数据进行的操作须要从内存存储中检索出同样多的数据元素。而这便是冯·诺伊曼瓶颈(von Neumann bottleneck)。
它是指在 CPU 与内存之间的流量(资料传输率)与内存的容量比较起来相称小,在当代电脑中,流量与CPU的事情效率比较之下非常小,在某些情形下(当CPU须要在巨大的资料上实行一些大略指令时),资料流量就成了整体效率非常严重的限定。CPU将会在资料输入或输出内存时闲置。由于CPU速率远大于内存读写速率,因此瓶颈问题越来越严重。
为理解决这一寻衅,Imec 和包括格芯在内的互助伙伴启动了工业附属机器学习操持, 致力于开拓新的架构,在 SRAM 单元中实行仿照打算来肃清冯·诺伊曼瓶颈。
由此产生的仿照推理加速器(AnIA),建立在GF的22FDX半导体平台上,能效显著。特性测试表明,功耗效率达到峰值,即每瓦特每秒2900兆次运算(TOPS/W)。在微型传感器和低功耗边缘设备中的模式识别,常日由数据中央的机器学习来驱动,现在可以在这个高能效加速器受骗地实行。
本文系作者个人观点,不代表本站立场,转载请注明出处!