一般大众使用的行动PC主板上可能很快就会不只有中央处理器(CPU)与绘图处理器(GPU),还会配备人工智能(AI)推理芯片,像是英特尔(Intel)旗下Movidius所开发的视觉处理器(Vision Processor Unit,VPU)。
第一个线索来自于微软(Microsoft)在日前举行之年度Windows开发者大会(Windows Developer Day)上发表的Windows ML开放性架构,是专为在Windows操作系统执行机器学习任务所开发;微软表示,此架构将扩展Windows对Intel/Movidius之VPU的原生支持。
以上讯息意味着Intel/Movidius朝着为VPU找归宿更往前进了一步,而且目标不只是诸如无人机、保全摄影机等嵌入式系统,还包括Windows笔记本电脑与平板装置;而Intel/Movidius营销总监Gary Brown在接受EE Times电话采访时证实,尽管Windows ML的发表并不是关于VPU与行动PC的整合:「没错,你会看到VPU进驻PC主板。」
Windows ML预期将让Windows操作系统跟上快速升温的AI潮流,根据Intel/Movidius说法,该架构能为任何既有的AI工作负载动态选择最适合的硬件,并在包括Intel VPU在内的多种硬件中智能分配任务。
Brown进一步解释:「我们的VPU能与CPU、GPU共同分摊繁重的AI处理任务,例如机器视觉、脸部辨识、语音、生物辨识等等;VPU也能帮忙腾出CPU与GPU的处理资源。」
对此市场研究机构Tirias Research分析师Kevin Krewell接受EE Times访问时表示:「添加Windows原生支持,将向软件开发商昭示Movidius VPU将越来越靠近主流市场;」不过他并不很确定PC是否为VPU的「好归宿」。
「我可以预见VPU对AR/VR产品如新一代Hololens来说是不错的新添加物,但不确定这是否适合PC──PC内有大量的处理能力,包括CPU与GPU可处理视讯,VPU则是在性能有限的装置中才能有最好的发挥,例如无人机;」Krewell指出:「或许这是Microsoft将Windows触角伸向无人机、机器人等新领域的第一步。」
AI世界迅速扩张,也让Microsoft有跟上潮流的压力;去年开放性标准组织Khronos着手开发自己的低层ML架构,例如绘图API,这意图是成为一种通用API;不过就像从Windows ML之发表可看到的,显然Microsoft还是需要为Windows量身打造的架构。
另一家市场研究机构The Linley Group资深分析师Mike Demler的观察是,Windows ML看来像是其他任何一种神经网络执行时期API,而「现在差不多是Microsoft赶上Arm平台的时候了」;他也指出,Windows操作系统原生支持「让Movidius能更顺利进军Windows笔记本电脑/平板装置市场」。
在被问到这对Microsoft有什么好处时,Demler解释:「开发者可能已经准备好利用CPU、GPU或客制化周边如Myriad (即Intel/Movidius的VPU),在Windows平台上执行机器学习应用程序,而Windows ML提供他们一个标准方法;」对终端使用者来说,Windows ML则将「有助于推动机器学习应用程序转移至客户端装置──在这个案例中是PC。」
如果AI处理器是为特定的嵌入式系统量身打造,该芯片被分配的应用程序与任务会很明确,可能是无人机的物体追踪、防碰撞,或者是保全摄影机的分析取证等功能;如Movidius前任执行长、现任Intel副总裁暨总经理几年前接受EE Times访问时所言,把AI推向边缘的目标,就是赋予嵌入式系统「感知、评估与决策」的能力。
那么在PC上适合什么样的AI应用程序?Intel的Brown建议了很多种,例如:「假设你走进一个房间,桌上有一台Windows平板装置,它可以看见你、辨识你的声音或脸,并藉由各种个人助理类型的任务来提供帮助,例如智能音乐搜寻或是为你的照片分类;以视觉为基础的AI也能帮忙强化视频会议的影像。」
当然,一切取决于应用程序开发商的想象,看他们想把什么样的AI新应用程序放上PC。但Demler认为,PC上的AI应用程序会跟其他行动装置上的应用程序没什么两样:「包括生物辨识、AR/VR、图像处理、物体识别等等。」
目前Brown坦承Intel/Movidius的Myriad X是第一款Windows ML架构在行动PC上利用的AI处理器,但关于该VPU出现在主板上的时间点,他仅表示:「很快。」
看来这显然并非Intel/Movidius的独门生意;在被问到其他可能进驻PC的AI处理器竞争对手时,Demler强调这样的对话仅能聚焦于行动PC:「有大量的Nvidia GPU正在桌面计算机执行机器学习应用程序;Linley Gwennap最近披露,一家名叫Gyrfalcon 的AI加速器新创公司,开发了一款能内建于USB随身碟的AI芯片,就像是Movidius。」
他指出,诀窍在于能抢进主板:「在中国,还有像是寒武纪(Cambricon)这样的AI芯片开发商,其投资者包括联想(Lenovo)。」
Myriad X预期会是第一款Windows ML支持的AI芯片,该系列产品是在去年夏天发表,当时El-Ouazzne表示,该公司设计这款第三代VPU芯片设计时,「我们尝试各种方法在不增加功耗的情况下提升神经网络性能。」
具备更多硬件加速功能区块的Myriad X架构,能在深度神经网络推理任务中提供TOPS等级的运算性能,同时让功耗维持在1W之内;该芯片采用8 x 9-mm尺寸封装,整体运算性能为4TOPS。该芯片内部的SHAVE (Streaming Hybrid Architecture Vector Engine) DSP核心,从上一代产品的12个增加为16个,此外以20个经强化的硬件加速器组合添加了神经运算引擎(neural-compute engine)。
El-Ouazzane在去年的Myriad X发表会上解释,该引擎是为了在不增加额外运算开销的情况下执行特定任务,例如为支持边缘提取(extract edges)的深度图绘制(depth-mapping,这是支持如无人机着陆等应用案例的关键功能),以及为支持更宽广视角的传感器去弯曲引擎(de-warping engine),还有对保全摄影机在追踪与人数统计应用上至关重要、支持超高性能运作评估的光流(optical flow)功能。
(原文发表于Aspencore旗下EDN姐妹媒体EETimes,参考原文:With Windows ML, Intel AI to Invade Mobile PCs;Judith Cheng编译)