边缘计算(edge Computing)是今年全球消费电子展(CES 2025)的热门话题,业界各公司纷纷展示多样化的应用场景:通过预先训练的边缘设备在本地进行推理、直接产生所需的输出,完全不依赖云端。然而,这些节点的复杂性与日俱增,不仅包括传感器之间的融合与协作以实现情境感知的多模式支持,还加入了多核心设计以提升计算能力。
因此,硬件加速技术成为了炙手可热的需求。嵌入式工程师渴望找到能降低设计与开发负载的解决方案。这些解决方案各具特色,其中许多倾向于云端服务器开发应用,随后将其虚拟化或容器化以便在边缘运行。然而,对于边缘计算应用而言,并不存在通用(one-size-fits-all)的解决方案。
很显然地,支持某种形式的硬件加速已成为成功进军智能嵌入式边缘市场的关键。业界多家公司对此问题提出了各种解决方案,涵盖从具备丰富软件支持与参考代码的硬件加速微控制器(MCU),到嵌入式神经网络处理器(NPU)等多种选项。
表1列举了部分展出公司及其硬件加速技术的支持方式。
表1 :各公司的硬件加速技术。
以Synaptics为例,其Astra平台已开始整合Google的多级中间表示(MLIR)架构。 Synaptics物联网处理器高级副总裁兼总经理Vikram Gupta表示:“核心本身旨在接收模型并以通用方式运行。这有点类似于基于RISC-V开放核心的系统,但我们增加了一个引擎,由编译器决定工作是进入引擎还是以通用方式运行。”
他补充道:“我们有意识地选择使用开放框架,因此,无论是Pytorch还是TFLite模型都可以。你可以将它编译成MLIR表示,然后进一步转换到引擎的后端。”Synaptics在CES的一项展示如图1。
图1 :智能相机解决方案展示了Grinn SoM使用Astra SL1680和Arcturus软件,以实现身份识别与追踪。新出现的脸孔将被分配一个ID和相关的置信区间,并根据与相机的距离进行调整。
在CES 2025,TI展示了其TMS320F28P55x C2000实时控制器(RTC) MCU系列,该系列集成了NPU,并配备了电弧故障检测解决方案,可实现太阳能逆变器等应用。
该系统在执行电源转换的同时,利用人工智能(AI)进行即时电弧故障检测。该解决方案遵循标准流程,先收集数据并进行标记,再对电弧故障模型进行训练,最后部署到C2000设备上(如图2 )。
图2 :TI的太阳能电弧故障检测Edge AI解决方案。
Microchip的一个边缘方案展示是利用其mTouch算法结合PIC16LF1559 MCU,可在有水的情况下检测真实的触摸(如图3 )。另一项解决方案则与Edge Impulse合作,使用FOMO机器学习(ML)架构在卡车装卸区执行物体检测。
图3:Microchip在CES 2025的Edge AI解决方案。包括与Edge Impulse合作的AI卡车装卸区(左),以及使用mTouch算法区分触摸与水的定制解决方案(右)。
此外,Nordic Semiconductor也与Edge Impulse合作,简化AI在其硬件上的标记、训练和部署过程。该公司还简化了利用Nvidia TAO将成熟的AI模型适配到所有Edge Impulse支持的目标硬件的流程。
(原文刊登于EDN美国版,参考链接:CES 2025: Edge AI hardware acceleration highlights,由Susan Hong编译)