日前,北京华兴万邦管理咨询有限公司的专业分析师团队赴德国纽伦堡参加了“2019年嵌入式世界展览及会议(Embedded World 2019)”,并与参加此次展会的多家全球性和国内领先科技公司进行了交流。本届展会的主题是“嵌入式智能”,非常贴合华兴万邦分析师们此行的目的,即探索如何利用智能技术及应用快速演进的发展机遇,推动集成电路产业的创新发展,并实现应用行业与集成电路行业的双赢。
华兴万邦为此推出了此次大会的研究报告,为大家揭示在从嵌入式计算或者实时控制技术向智能化技术的演进过程中,新一代的智能汽车(Automotive)、边缘计算(Edge)、工业电子(Industrial)、医疗电子(Medical)和机器人(Robotics)等五大行业将实现价值重构,并为国产智能芯片提供“同时起跑”机遇这一发展趋势,同时就如何抓住这些机遇提出多个建议。
报告将从分析智能化带来的价值重构开始,提出智能芯片架构性创新、做中国好芯片、做主控就要做大生态和关注AIoT智能网联整合趋势四个方面的建议,来和业界同仁进行交流。以下为报告正文:
从纽伦堡会展中心东门(NICC Ost)走进“2019年嵌入式世界展览及会议(Embedded World 2019)”,华兴万邦的高级分析师们看到的第一家企业是来自德国的Solectrix公司,这是一家专门面向嵌入式的设计公司,针对摄像机系统、医疗技术、工业和汽车等应用市场开发各种高端设计。在现场,除了该公司展示的工业摄像机、机器臂和汽车模型外,令人印象深刻的是该公司面向这些应用推出的各种系统级模组(SoM)产品。
用于AEIMR行业的控制板或者系统级模组是一个不小的市场
其实认真地跑一跑这个展览,大家会发现很多类似Solectrix的设计公司或者系统级模组提供商,其模组产品中往往采用FPGA+DSP+DDR等高性能处理和存储芯片,加上Silicon Labs这类公司的高端时钟和电源等外围芯片形成硬件模块或小型电路板,再结合自己在相关行业中的可靠性和应用优化等专业经验,以及针对特定应用的软件和算法工程化开发,推出高附加值的产品卖给世界一流的汽车、工业设备和医疗电子厂商。
但值得关注的是,无论是智能汽车(Automotive)、工业设备(Industrial)和医疗电子(Medical)等“传统”电子系统,还是边缘计算(Edge)和机器人(Robotics)等新兴行业,都大量需要这样的模组,或者架构上很类似的ASIC芯片,这是一个已经被验证过的市场,但是这并不意味着就是现有模组厂商可以一直坐享其成的现金奶牛市场,这是因为新的技术和需求来了。
如果我们把汽车、嵌入式、工业、医疗和机器人这几个市场统在一起,称为AEIMR行业市场并对其进行观察,就会发现其底层技术的发展正在从上一个平台期向新的架构性创新时期演进,这是因为AEIMR五个行业都在经历智能网联化的再创新。换句话说,在AEMIR行业中,现有芯片中的控制和处理电路固然重要,但是新的智能技术和功能正在重构其价值构成。
市售芯片不一定能支持AEIMR行业的新兴智能化应用,智能芯片的需求将凸显
从目前的情况来看,人工智能芯片是培养独角兽企业的最佳领域,如业内已有寒武纪科技等公司成为了独角兽。但是,人工智能芯片已经从前期解决有无阶段进入了走向实际应用的第二幕,再出现的独角兽企业将是那些能够面对最终市场快速提供芯片及解决方案的厂商,除了手机上的场景识别技术,AEIMR五大行业智能化需求将催生新一批的智能芯片独角兽企业。
这种价值重构正在带来新的创新空间和产品市场,系统级模组也在市场规模到达一定数量后可以被专用芯片(ASIC)或者系统级芯片(SoC)替代。为此,华兴万邦认为这些架构性创新的需求,再加技术上将系统级模组集成到新的ASIC和SoC的时机已经成熟,国内芯片厂商在AEIMR行业市场上与全球厂商“同时起跑”的时机已到。
机器视觉是智能化很重要的一个入口,诸如Imagination的PowerVR系列GPU这样的IP可帮助芯片设计企业快速进入市场
“从芯片架构来看,AEIMR这些行业应用的芯片有许多共同的地方,首先他们都需要针对智能化应用开发高性能加速器,其次它们还需要更高的系统可靠性/内部安全性,以及处理多种协议和数据格式转换的能力。”北京华兴万邦管理咨询有限公司特约首席分析师刘朝晖表示。“如果国内芯片企业能够从架构性需求去进行芯片产品定义,再结合最新半导体知识产权(IP)和软件算法及行业经验,那么就可以走出一条自主创新之路。”
国内AEIMR五大行业正在高速发展或者拥有巨大存量,同时智能网联化也已经成为这些行业发展的大趋势,因而将给国内芯片厂商带来巨大的机会。下面华 兴万邦就有关行业的情况做一些简单的分析:
Automotive 汽车工业:2018年,我国汽车产销量分别达到2780.9万辆和2808.1万辆,再次蝉联全球第一,但是增长速度明显放缓;同时,中国品牌汽车所占市场份额在2018年出现下降,成本/价格领先模式开始受到挑战,而先进驾驶辅助系统(ADAS)和自动驾驶汽车等智能网联技术给国产汽车和国内芯片行业都带来了新的机遇(请参考华兴万邦文章:《面对拐点从“芯”出发,推动汽车业与芯片业协同创新发展》)。
中国汽车工业协会发布的2018年全国汽车产量
Edge 边缘智能:边缘计算是一个广泛存在、极其多样化的领域,如智慧城市和智能安防等应用已经对人工智能芯片产生了巨大的需求,许多地区和部门都在更新视频监控系统,用具有视频识别功能的摄像机取代传统的IP摄像头,同时机场安检等相关卡口和酒店等特定场所的人脸识别等智能化应用也领跑全球。
Industrial 工业应用:工业应用不仅是指制造业,还包括交通运输、采矿和物流等行业,其中仅仅制造业的智能化需求就是万亿级的规模,所以李克强总理才在今年的政府工作报告中提到了打造工业互联网平台和“智能+”的概念。工业应用涉及多种传感器融合、控制系统、智能处理及通信协议,从二月的“嵌入式世界展”到三月的上海慕尼黑电子展,均可发现工业摄像机及其图形后处理系统就是一个巨大的产业,而这只是工业智能化的一个小小的应用。
许多厂商都在围绕AEIMR五大行业推进创新,这是国内智能芯片设计企业的重要机会
Medical 智慧医疗:随着我国进入老龄化社会、政府对民生投入增加以及个人对健康的重视,加上社区化、保健化和城乡均衡化的医疗服务体系建设加快,我国医疗保健类智能设备的需求将持续旺盛,也是人工智能等行业创新的重点。利用人工智能技术辅助医生判读医疗影像这一应用发展得如火如荼,基于5G技术的远程手术试验也取得成功;未来小型化的医疗级3D图像及视频处理和传输设备也将是一个巨大的智能芯片新市场。
Robotics 机器人:在中国,机器人是一个门类繁复、潜在需求巨大的行业,除了每年需求量在几十万台的工业机器人外,还有不断进入各行各业的自动运输车(AGV),以及一旦进入商用市场将产生巨大需求的无人送货、清扫和服务车辆,当然还有各类服务机器人、消费性机器人等。不是每种机器人都需要减速机,但是每台机器人都需要控制器,而且很多种类的机器人都需要机器视觉及人工智能后处理,这为智能芯片的开发带来了巨大的市场机遇。
毫无疑问,AEIMR五大行业正在迎接新的智能化时代,看上去今天的半导体行业已经提供了CPU、GPU、FPGA和DDR6等各种芯片产品来支撑其发展,大家只需要针对应用开发和优化软件就可以,但其实并不亦然。一个非常清晰的案例就是各厂商在开发自动驾驶解决方案时,重中之重还是全新的自动驾驶“大脑”——控制器、域控制器或者多域控制器,而不是采用市售商业处理板块或者模组。
图灵奖得主、当今计算机领域最重要的人物Alan Kay曾说过:高度关注软件的人应该创造其自己的硬件。这句话放在当今的AEIMR行业智能化实际中是再恰当不过的了,所以这些行业中最后的王者都是最顶尖的硬件专家,当然创造最顶尖的智能硬件必然离不开创新的智能芯片,无论是自己开发或者与专业的芯片设计企业联手定义或开发。
为此,华兴万邦高级分析师陈皓补充道:“AEIMR是人工智能、5G和物联网等新技术的重要应用领域,在这些领域的ASIC芯片或系统级模组供应商,以及他们的最终用户不管过去有多成功,都面临受到这些技术的推动而重新进行架构性创新的挑战,国内芯片厂商从智能网联这个方向进入市场,可以做到与既有厂商的传统优势比翼齐飞,这是我国集成电路产业的一次创新驱动发展的良机。”
而在当前开发智能芯片和解决方案并不是易事,所以人工智能和自动驾驶芯片领域才有这么多独角兽企业;一款智能化芯片要满足AEIMR各个行业的应用需求,不仅要针对各行业的传感器特征和数据特点去设计硬件加速,而且需要考虑功耗体积等制约因素,还要进行工规和车规等安全性和可靠性认证,并且还需要针对标准和协议的演进保持足够的灵活性。
为此,华兴万邦建议国内芯片企业从智能芯片架构性创新、做中国好芯片、做主控就要做大生态和关注AIoT智能网联整合趋势四个方面着手,为AEIMR行业市场开发相应的高性价比芯片。
与AEIMR行业传统的工控单元、ECU或者PLC处理器等针对传感器数据的处理模式不同,由于未来许多应用要求具备真正的智能功能,即要在现有处理功能上亦即在端侧设备上增加训练、推理和低延迟决策等新功能,将使芯片的架构设计变得更加困难。这是因为在计算能力大幅度增加的同时,还需要考虑存储带宽、内外部数据通道、体积/面积、整体功耗、信息安全和可靠性等等制约条件。
正是因为这些制约条件,使得许多极致的应用无法完全采用市售商业芯片和模组来搭建,因而开发自己的智能芯片成为了必然,而且这些芯片需要创新的架构和最高性能的IP。为了保证新开发的芯片面对智能应用拥有高性能和低延迟,在SoC或者ASIC设计中引入常规的GPU或者嵌入式FPGA(eFPGA)处理单元这类硬件加速器是不足够的,而是需要那些“嵌入式超级加速器”或者“带多层级加速器的硬件加速器”。在2019年嵌入式世界展会上,华兴万邦的分析师们就发现了这两种人工智能或者智能神器。
加速再加速将是嵌入式智能芯片的一个基本特征,超级神经网络加速或者多层级硬件加速将成为标配
Imagination Technologies在去年年底发布的PowerVR Series3NX系列神经网络加速器(NNA)就是一系列嵌入式超级加速器IP,它可以支持AEIMR行业中的嵌入式或者边缘设备实现极高效的推理。该系列IP中面积最小和功耗极低的PowerVR AX3125可以提供每秒0.6万亿次计算操作(TOPS),最高性能的PowerVR AX3595能够实现惊人的10 TOPS;通过集成多个处理内核,PowerVR Series3NX还可以实现20、40、80甚至160 TOPS,因而采用该系列IP来打造的AI芯片可支持从带摄像的智能门锁到自动驾驶汽车的多样化智能应用。
Imagination Technologies在嵌入式世界大会上展出了其先进的GPU和NNA系列IP
采用“带多层级加速器的硬件加速器”IP或者技术的智能芯片将在AEIMR产业中扮演重要角色,这类加速器的典范就是“不仅是FPGA”的嵌入式FPGA(eFPGA)。以业界领先的eFPGA提供商Achronix近期推出的用于人工智能/机器学习和网络硬件加速应用的第四代Speedcore eFPGA IP为例,该产品与前一代的Speedcore eFPGA产品相比,性能提速60%、功耗降低50%、芯片面积缩小65%;更为重要的是,其被称为“加速器上的加速器”的全新机器学习处理器(MLP),为人工智能/机器学习应用提供高出300%的性能。
Achronix的Speedcore Gen 4 eFPGA多层级加速器IP可以用于多样化的市场
与基于云的人工智能技术相比,AEIMR行业的智能化技术仍然是一种嵌入式的智能技术,这意味着所有整个系统的资源仍然十分有限,同时主要的学习与推断等操作要靠这些处理器独立完成。所以,在针对这些行业应用开发智能芯片时,除了选择合理的芯片架构,另一个很重要的、能够快速实现芯片设计的就是选择PowerVR 3NX这样的嵌入式超级加速器,或者是Speedcore Gen4 eFPGA这样的带多层级加速的硬件加速器。
用于AEIMR这五个行业的智能芯片,除了要在各种制约条件下实现最高计算能力这一特点,它们还有一个共同点就是需要面对行业应用中各种复杂环境的可靠性、内部安全性和防护能力等问题。这要求这些芯片通过相应的工业级或者汽车级规范认证,同时也需要采用更新的技术来实现内部安全性和抵御外界攻击的防护能力。
针对智能芯片所面临的系统级复杂性,需要用新的工具和IP来解决
对于AEIMR行业应用所需的可靠性,是传统的几大家汽车芯片提供商的优势,他们在此领域有丰富的经验和知识积累。但这并不是不可逾越的难关,除了在芯片设计与制造中引入相应的机制与设计,最重要是要有必要的耐心去对相关芯片进行筛选与调教。近年来,不少国内芯片设计公司已经具备了这种能力与耐心,其中一些厂商甚至包括对温度敏感的射频单元的混合信号SoC都通过了车规级认证。
例如,国内领先的卫星定位导航技术及芯片和解决方案提供商泰斗微电子科技有限公司在去年11月宣布,其射频基带一体化卫星定位芯片TD1030通过了AEC-Q100 Grade2认证,不仅成为国内第一家通过该认证的射频基带一体化北斗/GNSS卫星定位芯片厂商,而且TD1030也获得了同类芯片最高等级的车规认证,其-40℃~+105℃的工作温度范围可支持汽车厂商、Tier-1供货商及智能化应用方案商开发可靠性更高的车载导航系统。
泰斗微电子的TD1030-Q3003AB北斗/GNSS射频基带一体化芯片在国内率先通过AEC-Q100 Grade 2认证
除了可靠性,芯片内部安全性与外部防范能力也是AEIMR行业要求的重要指标。在传统嵌入式控制时代为此开发的许多技术可以借鉴,比如汽车控制器中的锁步技术,即同一颗芯片中两个控制内核同步运行,可确保任何时候都能保证处理器在正常工作状态。
但是这些还远远不够,智能化带来的一些新的需求正在改变芯片安全和防护的定义,如对芯片上异构多处理器的全生命周期监控。中国的芯片设计公司要超越传统的汽车及工业芯片提供商在此领域的积累,只有用最新的技术来快速通过这些技术壁垒,完成自己的高安全性和防护能力芯片,并具备诸如全生命周期监控等传统芯片不具备的能力,从而设计出真正的中国好芯片。
总部位于英国剑桥的关键系统安全性及安全防护提供商UltraSoC在去年年底宣布推出锁步监测器IP,芯片设计公司只需要在设计中引入这种IP和解决方案,就可以支持锁步功能的实现,从而实时监测SoC处理器是否在可靠、安全和无隐患地运行。在本届嵌入式世界大会上,该公司还宣布推出一项重大的扩展,新功能支持SoC设计人员构建具有多达65,000个组件的片上监测和分析系统,从而为拥有数千个处理器的系统提供无缝支持。
UltraSoC在2019年嵌入式世界展的RISC-V展区内演示了高级多核调试技术
新的UltraSoC架构能够高效地监测无数个用于构造最复杂SoC产品的内部构建单元块,并分析它们之间的交互对系统级行为产生的影响,在实现诸如无人驾驶汽车等前沿应用中所需的人工智能和机器学习技术方面可以发挥巨大的作用。为人工智能、机器学习和其他新兴应用实现最节能的高性能计算系统的Esperanto公司在同一颗芯片上放置了一千个RISC-V处理器和人工智能/机器学习(AI / ML)加速器,UltraSoC的IP产品支持这种大规模处理芯片的监测、分析和调试功能。
在今天谈到智能化应用时,除了芯片的性能指标有多少个TOPS等,经常同时出现的还有两组词汇。一组是软件与算法,这是现有的智能芯片开发企业工作的重点之一;另一组是和应用相关的产业生态。而这些与智能化紧密相连的词汇背后也都是一个一个的生态,再加上AEIMR中每个行业独特的自有生态,成功的主控芯片开发商一定是一个大生态的运作者或者组织者,这也是下一个阶段考察一家企业能否成为独角兽的关键。
谈到软件与算法生态,AlphaGo等传统的人工智能都靠云端运算,这是因为云服务公司有大量的优秀软件人才和算能。然而当我们谈到的是面向AEIMR行业的嵌入式智能硬件,也引用了Alan Kay的名言金句,但是没有软件智能芯片还是无法工作。面对AEIMR行业智能化需求,不是每一家芯片企业都要去纠集一大队精通Python或者Tensor的工程师搞产业生态垂直集成,产业链分工进行横向合作也将成为一种发展之道。
华 兴万邦的高级分析师不久前在上海举办的Electronica工业视觉展览上,也看到了一些本地视觉后处理算法提供商,他们很愿意与芯片和平台开发商合作提供完整的视频解决方案。同时,如本报告一开头提到的S公司就是一个潜在的国际合作伙伴。当然,如果走产业整合发展道路,那么智能芯片就要有足够的开放性,选择软硬件平台就非常重要。
我们看到越来越多的本地专业算法提供商的崛起,为智能化和智能芯片的发展提供了生态支持
对于软件平台,在实际操作中就要去分析IP或者芯片提供商的开发工具包SDK,它既要能帮助开发人员创建基于该加速器的自定义神经网络应用,当然也提供对SYCL等开放规范的支持。Khronos小组制定的SYCL规范支持开发人员能够使用C++语言开发任何由OpenCL或特定神经网络API支持的应用。
以前面谈到的Imagination Technologies的PowerVR Series 3NX神经网络加速器为例,该NNA IP既支持自定义的应用,也支持将每个SYCL函数库映射到其专用的IMG DNN API库中,从而提供了一个非专有的开放标准开发环境。
硬件生态的选择也很重要,为AEIMR行业的智能化应用开发芯片如果有一个硬件演进过程,那么不仅开发速度可以大大加快,而且可以节省大量的成本,因而最好是去寻找那些能够提供硬件灵活性的厂商。以前面提到的Achronix为例,该公司提供Speedster高密度、高容量FPGA芯片,还提供系统级封装(SiP)的FPGA裸片芯和Speedchip封装服务,以及Speedcore eFPGA IP产品。
从采用独立FPGA芯片做开发,到利用FPGA裸片芯做SiP封装芯片,再到用eFPGA做全集成SoC或ASIC也是一种不错的模式,硬件生态支持很重要
由于这些产品都采用了同样的FPGA架构并皆由Achronix的ACE开发工具提供支持,所以智能芯片开发商可以在启动项目时立即用Speedster FPGA芯片做软件和算法开发,如果AEIMR行业还有其他的硬件需求如专用的处理器或者接口驱动芯片,则可以将Speedster上的应用迁移到FPGA裸片芯上与这些芯片一起封装为SiP芯片。在这些过程中可以一边出货、一边采用Speedcore eFPGA IP做自己的SoC硬件开发,一旦开发完成市场上量,则可以推出高性能和低功耗的智能芯片SoC或者ASIC。
在今天的智能化大潮中,不同行业不同领域用不同的语言都在说明同一个趋势。一些业界领袖力推人工智能与物联网的整合,即AI + IoT = AIoT;另外在很多场合中,智能化与V2X、工业物联网和5G等话题联系在一起,智能网联已经成为同一个概念。嵌入式智能芯片的开发与创新物联网连接技术的融合已显然成为智能化发展的一个重要趋势。
在自动驾驶汽车的开发过程中,内部传感器连接与控制数据传输线路,以及车辆与外部环境的通信同样非常重要
当然,对于嵌入式智能芯片设计公司,目前还没有必要将采用射频混合信号技术的通信电路集成到主控芯片中,但是对于系统级的连接设计,考虑连接已不仅是选择数据速率这个简单的技术决策,连接技术的创新也在影响智能化应用的开发,同时各个连接标准主体和厂商都在积极拓展自己的生态。
例如Keyssa公司开发的全固态非接触式连接器技术,用速率为6Gbps的超高频无线传输来替代需要插拔的传统连接器,可以大大优化机器人、汽车连接、电路板内部连接和医疗电子的连接和智能芯片性能;同时因为取消连接器和相应的开孔,在系统可靠性得到大幅度提升的同时,提升了设计灵活性并降低了制造成本。
Fresco Logic 的F-One技术为新兴的AIoT提供了一种全新的互联方式,F-One技术包括一系列高度集成的聚合控制芯片,它们可以用灵活且动态的方式将一系列通信协议聚合在同一个F-One串行通道中,可以广泛地应用于多传感器环境、工业物联网、网络安全、汽车线束缩减和移动设备配件等领域。
在AEIMR五大行业中,连接是非常复杂且多样化的,因而必须考虑垂直行业的需求,如需要考虑汽车的CAN总线和工业自动化领域已有的各种协议,同时还要考虑智能处理数据传输的连接需要,既要考虑低延迟和高速率,也要考虑成本和部署方便性。更为重要的是,各种连接协议主体都在围绕其连接技术做出更大的生态,比如5G技术带来的不只是速度,而是新的价值和新的5G生态。
推动今天十分火热的智能网联或者AIoT的另一个因素,是物联网连接技术正在给智能化应用带来更多全新的价值,比如为智能化处理后的数据提供时间与位置标记可支持很多业务创新。我们可以用Semtech公司的LoRa技术来进行分析,LoRa以其低功耗、长距离和易于部署成为了低功耗广域网(LPWAN)领域内的领先技术并得到了极为广泛的应用,是近年来发展最为迅速的物联网技术之一。
LoRa在LPWAN领域率先进入连接+数据服务新阶段,亦代表了智能网联的新趋势
在本届嵌入式世界大会上,Semtech在现场展示了LoRa在智慧城市、智慧交通和智能家居等领域内的应用。在大会结束后不久,该公司推出了LoRa Cloud™地理定位服务,这是一种全新的、基于云的、且与 LoRaWAN协议和绝大多数网络服务器兼容的地理定位服务,它可通过Cloud API调用访问,简化了所有基于LoRaWAN设备的地理定位访问并实现大众化应用以及智能化应用。
物联网连接技术领域的创新也不断涌现,在本届嵌入式世界大会上,有很多国内公司展出了他们的物联网通信芯片和模组,可以见到中国通信模组厂商的全面崛起。我们也在本届大会上访问了可提供最全面短距无线通信协议支持的芯片提供商Silicon Labs公司,该公司的产品支持包括低功耗蓝牙、Wi-Fi、Z-Wave、Zigbee/Thread和私有协议,以及可在同一芯片上支持多种通信协议的无线SoC芯片。
Silicon Labs在2019年嵌入式世界大会上展示了最全面的无线连接芯片产品组合,是智能芯片企业的不错的生态合作伙伴
Silicon Labs这样的领先厂商的创新进一步拉近了物联网与嵌入式智能芯片的距离,去年该公司推出全新Wi-Fi 产品组合WF200收发器和WFM200模块,将Wi-Fi连接的功耗降低了一半,可以支持包括IP安全摄像头和销售点(PoS)等智能化应用的进一步普及。今年1月,该公司发布了用于其Wireless Gecko产品组合的新蓝牙软件,率先利用蓝牙核心规范5.1中的测向功能,为室内定位和移动定位应用提供精度可在1米以内的定位方案。而Z-Wave则是该公司独家拥有的协议,深受希望建设私有网状网络的客户喜欢。
3月5日,国务院总理李克强在第十三届全国人民代表大会第二次会议上做《政府工作报告》,报告在谈到 2019年政府工作任务时,把“推动传统产业改造提升”列入了重点工作之中。报告指出:围绕推动制造业高质量发展,强化工业基础和技术创新能力,促进先进制造业和现代服务业融合发展,加快建设制造强国。打造工业互联网平台,拓展“智能+”,为制造业转型升级赋能。
2019嵌入式世界的举办地点——纽伦堡会展中心
与此同时,许多业界的朋友都在谈人工智能发展的下一步,核心要素是快速的应用和落地。因此,华兴万邦分析师团队认为,AEIMR五大行业将是下一步智能化发展的关键突破口,同时它们也为国内的芯片设计企业提供了与海外同行同时起步的机会。从智能芯片架构性创新、做中国好芯片、做主控就要做大生态和关注AIoT智能网联整合趋势几个方面出发,将有机会在智能芯片这个新兴市场中获得快速的发展。