今年,我们看到OPPO、魅族全力投入到AI领域中,天生式AI的时期已经开启,随着天生式AI用例需求在有着多样化哀求和打算需求的垂直领域不断增加,这使得面向天生式AI设计的神经网络处理器(NPU)成为继CPU、GPU后,又一个技能关键。

NPU是什么?若何让你我的手机更「AI」了_高通_处置器 绘影字幕

从开拓者到终端设备厂商均可通过结合NPU利用得当的处理器,异构打算能够实现最佳运用性能、能效和电池续航,赋能全新增强的天生式AI体验。

正如在工具箱中选择得当的工具一样,选择得当的处理器将增强天生式AI体验

异构打算的主要性

天生式AI的多样化哀求和打算需求须要不同的处理器来知足。
支持处理多样性的异构打算架构能够发挥每个处理器的上风,例如以AI为中央定制设计的NPU,以及CPU和GPU。
每个处理器善于不同的任务:CPU善于顺序掌握和即时性,GPU适宜并行数据流处理,NPU善于标量、向量和张量数学运算,可用于核心AI事情负载。

异构打算能够实现最佳运用性能、能效和电池续航,以最大化发挥天生式AI终端用户体验。

NPU随着不断变革的AI用例和模型持续演进,实现高性能低功耗

什么是神经网络处理器NPU(Neural Processing Unit)?

NPU专为实现以低功耗加速AI推理而全新打造,其架构随着新AI算法、模型和用例的发展不断演进。
Al事情负载紧张包括由标量、向量和张量数学组成的神经网络层打算以及非线性激活函数。
精良的NPU设计能够为处理这些AI事情负载做出精确的设计选择,与AI行业方向保持高度同等。

高通AI引擎包括Hexagon NPU、Adreno GPU、Kryo或Oryon CPU、传感器中枢和内存子系统

高通的NPU和异构打算办理方案

正如文章开头中提及的,甚于骁龙平台的天生式AI产品正在不断增加和融入我们的生活,其缘故原由是高通NPU的差异化上风在于系统级办理方案、定制设计和快速创新。
通过定制设计NPU并掌握指令集架构(ISA),高通能够快速进行设计演进和扩展,以办理瓶颈问题并优化性能。

Hexagon NPU是高通业界领先的异构打算架构——高通AI引擎中的关键处理器,高通AI引擎还包括高通Adreno GPU、高通Kryo或高通Oryon CPU、高通传感器中枢和内存子系统。
这些处理器为实现协同事情而设计,能够在终端侧快速且高效地运行AI运用。

除了我们在小米、OPPO、vivo、光彩等终端手机设备上感知到的天生式AI体验外,高通也正推动天生式AI的加速落地运用,通过供应高性能、多元的硬件芯片组方案知足终端厂商的产品研发需求,并利用高通AI软件栈(Qualcomm AI Stack),让开发者可在高通硬件上创建、优化和支配AI运用,一次编写即可实现在不同产品和细分领域采取高通芯片组办理方案进行支配,提升AI运用的研发效率。

高通AI软件栈旨在帮助开拓者一次编写,即可实现随时随地运行和规模化扩展

关于更多天生式AI和NPU的信息,大家可以查看高通的白皮书。