人工智能(AI)是一种强大的模式识别技术,它旨在了解智能的本质,并设计具备类似人类智能的智能机器。通俗地来讲,AI设备可以“看到”、“听到”或“感知到”某个物体、声音或事件,并且像人类一样做出相应的行动。此前,实现AI的方法主要依靠软件,例如当我们需要识别一只猫时,往往需要程序员编写一组规则来描述猫的特征,从而约束程序的运行,比如猫必须有尖尖的耳朵、三角形的鼻子和长长的胡须。
但大量例外情况的出现给传统软件技术带来了巨大的困难,比如,“在胡须和鼻子都看不见的情况下,怎样从后面或者侧面识别一只猫?”;再比如“如何在黑暗中识别一只纯黑的猫?”,或是“猫被遮挡、有折耳或没有腿的情况下如何识别?”等等。然而AI技术能够通过海量的、不同的猫照片进行训练,进而提取出猫的深层次抽象特征。这些用于训练的照片既包括猫的普遍特征,又包含大量例外,从而有助于AI技术准确地识别出一张新图片中的猫。
“传统的软件方式是闭着眼睛,相当于‘盲人摸象’,需要告诉软件技术所有猫的特征,费时费力也不准确;而AI技术相当于海量的学习过程,可以睁开眼睛看各种各样的猫,从而进行学习,训练好之后,看到新的猫图片就能马上判断,可以说是洞若观火。”ADI中国技术支持中心高级工程师辛毅说。
除此之外,得益于强大的计算能力,AI技术在工业、医疗、消费类等诸多领域得到了广泛应用。比如,采用AI技术的工业摄像头可以识别和分类不同等级的产品;将AI技术用于时间序列分析,可以对多人体生命体征信号(心电、PPG、生物电阻抗)等进行分析监测,提出初步诊疗指导意见,减轻医生的工作量;具备AI功能的消费类产品可以根据使用者的指示或机器视觉开展工作,如语音操控扫地机器人,而扫地机器人则可以借助AI来规划自身的行进路线。
目前,由于物与物之间的互联会产生海量的数据处理需求,只有AI强大的计算能力才能够胜任,这也使得IoT技术正与AI技术发生深度融合,AIoT概念应运而生。如果将物联网比喻成“遍布全身的神经网络”,那么AI就相当于人类的“大脑”,要达到类似于人类的智能,设备必然需要进行大量的矩阵运算。这意味着大量的存储空间、强大的计算能力、高速的数据交互,成本很高,往往只有部署在云端的大型服务器才能够胜任这一工作。
然而,IoT技术更强调“物与物互连”,且多数设备需要电池供电,数据在物与物之间的流通并不能完全依赖于云端,因此物联网通常意味着低成本和低功耗,这就使得AI与IoT的融合产生了一定的矛盾与困难,但也促成了“边缘AI”技术的诞生。
边缘AI也可理解为终端AI技术,最早起源于20世纪90年代的边缘计算。简单而言,边缘AI技术在靠近用户本地的终端网络边缘执行AI运算,而不是将数据集中在云或数据中心进行处理,设备可以在本地自行进行运算并做出决策,不一定要连接互联网,非常适合通信网络不好、交通不便,又需要快速决策和及时预警的场景,如森林火灾、公路、铁路或大坝塌方监测等。
根据IDC预测,2025年全球物联网连接数将增长至270亿个,未来超过75%的数据和应用将在边缘产生和处理。
辛毅援引《韩非子·说林上》中的一句话,“失火而取水于海,海水虽多,火必不灭矣,远水不救近火也”,来阐释边缘AI的优点。他将云端AI类比为大海,大海虽然水多、能力强,但对于特殊场景终究远水解不了近渴;而边缘AI则可以在语音识别、人体数据分析等对实时性要求高的领域发挥重要作用。
作为ADI在边缘AI领域最具代表性的解决方案之一,MAX78000系列由两个微控制器内核(ARM Cortex-M4F和RISC-V)加上一个卷积神经网络(CNN)加速器构成。其中,数据的加载和启动由微控制器内核负责,AI推理由卷积神经网络加速器专门负责。
根据ADI MCU产品线资深业务经理李勇的介绍,Cortex-M4F内部配有Flash和SRAM,主要处理应用和通信,而RISC-V是一颗采用32位精简指令集的小内核,主要配合CNN工作。由于CNN工作时需要输入图片、声音、波形等原始数据,RISC-V内核会将数据搬运至存储空间,再用于CNN。经过硬件计算,CNN将原始数据通过矩阵乘法和加法得到特征值,再放入内存进行比对。
与传统的软件AI方案相比,这种快速、低功耗的决策实施使得复杂的AI推理能耗降低到前期方案的百分之一以内,采用AI技术的电池供电系统可大幅延长其运行时间,有助于实现之前无法逾越的新一代电池供电AI应用。
数据显示,MAX7800X具备更高的数据吞吐量,可将速度提高100倍以上,成本远低于FPGA等方案,略高于微控制器,但可以处理更复杂的细节。功耗方面,相比于微控制器+DSP解决方案,边缘AI定制的硬件加速器可以将功耗降低99%以上,实现了功耗、速度、成本的最优平衡。
目前,MAX78000/ MAX78002可分别支持3.5M/16M的模型权重,不仅可以进行图像识别,还可以实现复杂的视频分析。下图展示了ADI MAX78000、MAX32650和竞品在执行相同AI推理——人脸识别(图像识别、视觉识别)和关键字识别(音频识别、听觉识别)时所花费的时间和功耗对比,可以看出,无论是推理速度还是功耗,MAX78000的表现均优于MAX32650和竞品MCU。
为了最大程度降低开发难度,针对MAX7800X系列产品,ADI推出了许多支持资源,包括数据手册、应用笔记、评估套件、参考设计、教学视频、工具、例程,用户可以在ADI官网上或者GitHub上找到上述资源。例如,相机模组MAXREFDES178就是ADI基于MAX78000推出的参考设计,供用户评估MAX78000执行AI推理时的性能。该设计尺寸仅约为4.2cm×4.5cm×4cm,便携性好,除了自身魔方的形状,还具备摄像头、麦克风、显示屏、按钮等多个机械组件与内置电池,真正实现了电池供电的边缘AI推理,用以支持人脸识别和语音识别功能。
应用方面,以视觉识别为例,经过训练,MAX7800X可以用在考勤打卡、智能门锁等电池供电的物联网设备上的人脸识别;摄像头上集成MAX78002后可以实现垃圾分类、产品分装、快递分拣等功能,相关案例包括鸡蛋计数相机、可识别冰箱内饮料数量的车载冰箱以及用于山火监测等。
MAX7800X系列的关键字识别功能,则可以识别出用户的语音指示来进行操作,广泛应用于智能音箱、电动窗帘、智能照明等语音控制的物联网设备上。考虑到声音也是一种振动,MAX7800X因此还被用于振动识别,例如可提取用户语音指令关键字的智能头盔、工业中的管道震动分析是否发生泄漏等。
边缘AI MCU并不是ADI MCU业务的全部,尽管公司以出色卓越的高精度信号链和电源产品闻名于世,但ADI在微控制器领域的投入其实已经有很长的历史了。从1995-002年的8051系列MCU,到2004至今的MAXQ系列MCU,2012年至今的ARM内核系列MCU,再到2020年推出的边缘AI MCU,截至目前,ADI MCU产品的出货量累计超过10亿片。
根据功能,ADI将MCU产品分为三类:第一类是低功耗通用MCU,具备小体积、低功耗、大存储的特点,适用于工业、物联网、医疗、消费类等应用;第二类是安全MCU,采用安全系统架构,具有很强的抗攻击加密能力,可以用在对安全性能要求较高的智能机器或终端,如POS机、读卡器等;第三类就是前文提及的AI MCU,其特色是可以将AI推理从云端推向边缘端,助力电池供电的人工智能和IoT设备,如智能家居、人脸打卡、语音控制等。
ADI低功耗微控制器(MAX32675、MAX32672、MAX32650、MAX32680、MAX32660等)主要应用于工业流量计、工业光学式气体探测仪、MEMS传感器、可穿戴智能手表、心率监测真无线耳机、扫地机器人雷达、心电T恤、连续式血糖监测仪等领域,旨在帮助客户实现消费和工业产品的升级。
ADI安全微控制器主要实现安全密钥存储,通过多层物理安全功能机制防止各种风险。它集成了安全存储器(NV SRAM),符合EMV、PCI和FIPS标准,采用实时代码与数据加密专利、安全启动与ChipDNA™ PUF技术,具有低功耗、小尺寸的特点。其功能包括安全密钥存储、防篡改检测、侧信道攻击保护、完美硬件方案、高质量随机数、高性能加速器等,而该方案的另一大特色是硬件解决方案,可以避免软件方案的缺陷,同时基于硬件的专门加速器比在计算机上运行的复杂软件的速度要快得多。
除了MCU产品本身,ADI还提供许多支持资源方便简化用户的设计,包括立足于客户痛点的专业支持团队、轻松集成的驱动例程、大方简洁的机械设计、稳健可靠的评估套件以及清晰易读的手册指南。这些支持资源就如同“菜谱”“大厨”“厨具”“料理包”一样,可以大大简化客户的研发流程,让客户对ADI的MCU产品轻松上手。