据Statista称,随着物联网(IoT)设备(如移动电话、虚拟助手、笔记本电脑、平板电脑、楼宇传感器、无人机、安全摄像头和可穿戴健康传感器)的数量到2025年有望超过700亿部,边缘计算应用也将增加。据Tratica称,全球人工智能(AI)边缘设备的数量预计将从2018年的1.614亿部激增到2025年的26亿部。
物联网设备在许多领域应用多种多样,例如零售、医疗保健、工业、航空航天、国防、运输、设施维护、能源、制造、供应链物流和智能城市等。每个物联网设备都会持续收集数据,因此需要快速分析,达到实时决策,特别是对于自动驾驶汽车、电网、远程手术、石油钻井平台,甚至军用无人机等应用。
传统上,云计算是物联网设备分析和预测的模型。在中央云计算模型中,数据从最终用户设备(“边缘”)发送到云端进行分析,然后云端再将决策回传到设备进行实施。虽然中央计算模型中的数据中心具有处理和存储数据的巨大能力,但它们的维护成本高昂且耗电量巨大。
边缘和云之间的数据传输不仅昂贵,而且耗时并且会产生延迟(滞后时间)。此外,数据传输所需的能量会超过低功耗无线物联网设备所能支持的能量。而且从后勤、运营或财务上来说,当所收集的信息中只有小部分可能有用时,它也没有必要将所有的数据都传到云端。最后,数据传输可能对数据完整性和安全性产生不利影响。
相比之下,边缘计算可以在物联网设备上收集和分析数据,进行快速推理(或决策制定)。然后可以只将少量有用的数据传送到云端。边缘计算提供了几个优点。由于无需将数据从物联网设备传送到云端,因此其延迟时间、带宽消耗和成本将会很低,并且可以根据数据分析快速做出决策。
此外,即使系统处于离线状态,边缘计算也可以持续运行,并且即时数据处理可以更轻松地确定应将哪些数据传送到云,以便再做分析。
虽然将AI与边缘计算相结合很有意义,但硬件和AI软件组件面临着多重挑战。
第一个挑战是处理和功耗。AI包括训练和推理软件。训练会教授模型识别相关参数,以便它可以解释数据。推理是指模型根据学习进行预测。
在云计算方面,高耗电的训练是在云端进行,然后再将训练过的软件部署到边缘,用于相对低功耗的预测(或推理)任务。在边缘计算方面,训练转到边缘,因而对边缘硬件的处理能力提出了更高的要求。对于物联网设备而言,这种能耗增加带来了更大的问题,需要重新平衡处理能力和功耗需求的关系。
由于边缘设备会保留大部分数据而仅将小部分传送到云,数据存储和安全是第二个挑战。此外,设备需要为学习和推理存储相关参数。第三个挑战是物联网设备的数量庞大并且目前缺乏安全标准。
因此,技术公司需要开发处理能力更高、功耗更低的硬件,以及可更有效地执行学习和推理的软件。此外,物联网的应用与特定的场景和行业相关,因此需要有强大生态系统和开发者环境进行定制。
开发AI边缘的进步
专注于物联网边缘硬件的大中小型公司包括BrainChip(Akida神经形态SoC)、CEVA(NeuPro系列)、谷歌(Edge TPU)、GreenWave(AI处理器GAP8)、华为(昇腾芯片) 、英特尔(至强)、英伟达(Jetson TX2)、高通(视觉智能平台)和意法半导体(STM32微控制器)。
小型公司倾向于关注物联网边缘软件。有些公司专注于Ekkono、FogHorn和Swim(一种基于云的POS)等学习,而其他公司则主要针对瑞萨(e-AI)等推理。许多公司还开发具有这两种功能的软件,例如亚马逊(AWS Greengrass机器学习推理模型)、BrainChip(Studio软件)、谷歌(Cloud IoT Edge)、华为(Atlas平台)和IBM(Watson IoT平台)。
大型科技公司则处于构建生态系统的最佳位置,而使开发人员能够创建特定行业和场景的解决方案。这些公司包括谷歌(AI平台)、华为(MindSpore)、IBM(Watson)、英特尔(AI开发人员计划)和微软(Azure),以及IoT Hub、Azure Databricks、ML Studio和Power BI等企业级IoT模块。
然而,有一些较小的公司正在创建生态系统,例如BrainChip的Akida开发环境。此外,开放雾联盟(OpenFog Consortium)等贸易集团,以及包括Living Edge Lab、ETSI多访问边缘计算和EdgeX Foundry在内的开源项目,也都在为生态系统做出贡献。此外,包括高通、微软和英特尔在内的领先企业在行业内进行了大量合作,它们正在与各行各业的合作伙伴合作。
借助专门的硬件、软件和开发人员环境,边缘计算可以提高运营的可靠性,实现实时预测并提高数据安全。5G有望降低延迟、增强覆盖和响应能力,量子计算可以加速计算,因此有望增进边缘计算的效率。
然而,跨边缘设备网络有效分配处理需求将会是个挑战。此外,高效任务调度对于避免系统故障和优化机器学习来说也至关重要。未来,预计将会出现更强大的处理芯片并且其功耗要求更低,到那时,基于AI的边缘计算将会真正大显身手。
本文为《电子技术设计》2019年7月刊杂志文章。原文链接:How AI changes the future of edge computing