人工智能并不是一个近几年才提出的名词，但是在近几年随着谷歌AlphaGo降服人类围棋天下冠军等事宜的推动，才使诸如卷积神经网络、深度学习和机器学习等技能走进了大众的视野，同时也使“人工智能=数据+算法+算力”的模型得到广泛的认同。

其结果是，在很多人的印象中，人工智能和机器学习便是在英特尔最新做事器处理器或者英伟达的GPU加速模组的根本上的全新的、巨大的算法运用，特殊是人工智能的演习更是一场资源花费战，成为了进入门槛很高的新兴领域，传统上设计MCU或者SoC的芯片企业基本上与崇高的AI/ML无缘。

但是人们很快创造在非常领先的人工智能企业所供应的办理方案中，不仅包括诸如自动驾驶路况剖析、自然措辞处理、快速医学影像识别和高频金融交易等繁芜功能，也包括更大量车牌识别、智能音箱唤醒词识别、便携智能康健监测设备、人脸识别开机和智能家居安防等Lite级别的运用。

在市场强烈需求的拉动下，随着谷歌的开源TensorFlow Lite嵌入式机器学习架构和类似产品的推出，以及诸如Imagination公司的PowerVR神经网络加速器（NNA）等硬件加速器在移动设备或嵌入式设备上商用，各种功耗和本钱更低的，以及更加小巧的嵌入式AI/ML功能办理方案不断呈现。

通过剖析，北京华兴万邦管理咨询有限公司认为：嵌入式AI/ML的广泛兴起，带来了与传统AI技能以“人工智能=数据+算法+算力”为中央的发展范式不同的新模式，针对特定或者一些运用和功能的嵌入式AI/ML的重点已转向“生态+集成+定制”。
下面我们从融入物联网生态、硬件和商用开拓工具集成、以及基于RISC-V开拓定制处理器这三个方面来进行剖析：

为嵌入式AI/ML带来最新Matter协议和物联网大生态

Silicon Labs（亦称“芯科科技”）是一家环球领先的物联网芯片、软件和解决方案供应商，该公司在业界以支持最全面的物联网通信协议和供应精良的产品性能而著名，其客户包括智能家居、聪慧城市、工业与商业、聪慧医疗和能源等领域内的领导厂商。

今年初，该公司宣告推出其BG24和MG24系列2.4 GHz无线SoC，它们不仅都支持最新的Matter物联网通信协议，还分别支持蓝牙和多协议操作，同时还为电池供电的边缘设备和运用供应了人工智能/机器学习功能，并带来了高性能无线功能和物联网大生态。

BG24和MG24无线SoC代表业界前沿的生态、功能和技能组合，个中包括支持无线多协议、长电池寿命（低功耗）、机器学习、以及面向物联网边缘运用的安全性。
Silicon Labs为它们供应的全新软件工具包支持开拓职员通过一些常用的工具套件（如TensorFlow），来快速构建及支配AI/ML算法。

为了实现AI/ML算力，BG24和MG24系列率先集成了专用的AI/ML加速器，帮助开拓职员支配人工智能或机器学习功能并办理功耗难题。
这种专用硬件旨在快速高效地处理繁芜打算，内部测试显示其性能提升最高达4倍，能效提升最多达6倍。
由于机器学习打算是在本地设备上而不是在云端进行，因此肃清了网络延迟，加快了决策和行动。

此外，BG24和MG24系列还具有Silicon Labs产品组合中最大的闪存和随机存取存储器（RAM）容量，使其可支持多协议、Matter以及用大型数据集演习ML算法。
这些芯片载有得到了PSA 3级认证的Secure VaultTM物联网安全技能，可为门锁、医疗设备和其他需小心支配的产品供应所需的高安全性。

高集成度嵌入式AI/ML合营领先商用开拓工具

IAR Systems是嵌入式开拓软件和做事的环球领导者，其领先的IAR Embedded Workbench®工具链已在环球得到广泛采取。
IAR Systems的开拓工具为Alif Semiconductor™高集成度的Ensemble™和Crescendo™系列芯片供应支持，打造了基于人工智能的、高效的微掌握器（MCU）和领悟处理器，赋能下一代嵌入式互联运用。

对更多功能的集成代表了嵌入式AI/ML的一个发展方向，Alif Semiconductor的这些高能效产品系列供应多达4个处理内核，以及人工智能/机器学习（AI/ML）加速、多层安全、集成的LTE Cat-M1和NB-IoT连接、环球导航卫星系统（GNSS）定位等功能，从而使其运用范围得到了大幅扩展。

为了让这些功能得到更好的发挥，就须要利用诸如IAR Systems的Arm开拓工具这些在行业中已被验证过的、领先的编译器技能，对代码大小和速率都进行优化，其余还供应高性能的调试功能，从而为企业供应了一个很好的平台。

2021年11月，IAR Systems宣告其最新版本的IAR Embedded Workbench for Arm®增加了对Arm Cortex®-M55处理器的支持。
该处理器是一款支持AI技能的Cortex-M系列处理器，带来了节能的数字旗子暗记处理（DSP）和机器学习功能。

双方这次互助可以支持Ensemble或Crescendo器件的运用开拓商利用IAR Embedded Workbench® for Arm开拓工具链，以实现高性能的且强大的代码优化功能，充分发挥器件的AI/ML潜能，同时又尽可能地保持能源效率。

RISC-V使嵌入式AI/ML可针对边缘运用实现定制

多样化的需求是嵌入式运用的特色之一，MCU供应商长期以来是通过不同的处理器内核与外设搭配来知足用户的个性化需求。
而RISC-V的兴起，带来了定制处理器这一新的潮流，这一潮流将连续延伸到嵌入式AI/ML领域，并得到业内领先厂商的支持。

Codasip便是一家供应领先的RISC-V处理器IP和高等处理器设计工具的供应商，为IC设计者供应RISC-V开放ISA的所有上风，以及定制处理器IP的独特能力。
Codasip在今年2月推出了两款专为定制处理器而优化的最新低功耗嵌入式RISC-V处理器内核L31和L11。

基于这些新内核，客户可以很方便地利用Codasip Studio工具去定制处理器设计，以支持诸如神经网络、AI/ML等具有寻衅性的运用，包括例如物联网边缘打算等极小型化的、功率受限的运用。
Codasip的内核可定制功能是其成功的基石，目前环球已有超过20亿颗处理器利用了Codasip的IP。

Codasip L31/L11嵌入式内核运行在谷歌的TensorFlow Lite for Microcontrollers（TFLite Micro）上，并利用Codasip Studio工具定制一类全新的嵌入式AI内核，可为AI/ML打算密集型和内部资源有限的嵌入式系统等运用供应足够的性能。
不同运用对器件的需求也有巨大的差异，而且现有的处理器并不能很好地加载AI/ML运用。

Codasip可供应“创造差异化设计”模式，意味着利用其Studio工具的客户，可以根据其特定系统、软件及运用程序的哀求来定制处理器。
通过将TFLite Micro）、RISC-V定制指令以及Codasip处理器设计工具三者相结合，就可以为嵌入式的、高效率的边缘神经网络处理功能带来低延迟、高安全性、快速通信和低功耗等上风。

展望未来：新的运用与新的技能都将不断呈现

随着家当的发展，嵌入式AI/ML技能和运用都将得到进一步的发展，基于华兴万邦提出的“生态+集成+定制”新范式，以及不断推陈出新的边缘运用，我们可以看到在未来一些新的技能值得高度关注，比如新的、适宜边缘运用的硬件加速器和安全技能。

以硬件加速器为例，近年来广泛兴起并得到高度关注的xPU将会从云端走向嵌入式运用；在一些运用处景中，还须要针对算法和标准的演进和升级对硬件进行再编程，那么诸如Achronix公司的Speedcore嵌入式FPGA（eFPGA）这样的IP产品也会从做事器和数据中央市场走入嵌入式AI/ML运用，推动采取不同硬件加速器的异构打算模式向前发展。