总部位于美国的AI 芯片新创公司Syntiant宣布推出针对语音任务处理设计的低功耗神经网络加速器NDP100与NDP101,将用来检测功率水准低于200μw的声音模式,让各种设备能具备语音控制功能。
新款芯片令人惊讶之处,是使用了数位技术。这家新创公司是在2018年首度亮相,介绍了一种利用内含数十万个连结至NOR记忆体单元的乘加器(multiply-accumulate units)阵列,以类比技术处理深度学习任务的方法。其竞争对手Rival Mythic也是以类似的类比技术专攻影像和视频应用;Syntiant则表示将于2020年推出的下一代芯片也会锁定这类应用。
记忆体处理器(processor-in-memory,PIM)架构一直被视为一种有趣但难以实现的方法,Rival Mythic与Syntiant这两家新创公司可能需要从40纳米NOR移转到ReRAM或MRAM阵列,以微缩至28纳米制程设计。
新款芯片利用数位MAC阵列中的SRAM快取记忆体,省电的方式一部分是透过尽可能减少资料移动,还有降低精确度水准,支持4位权重(weights)、8位启动(activations) 。数位组件的推出,代表该公司意识到神经网络剪枝的重要性与类比运算所带来的挑战。
Syntiant宣称其新型数位芯片比起一般CPU 和DSP,能节省一百倍的能耗,但并没有提供相关量测数据;该公司表示,其数位芯片已经赢得助听器、手机等产品的设计案,芯片样品也已经在智能喇叭、家庭自动化设备和笔记本电脑中进行测试,而类比芯片仍在研发阶段。
在Syntiant的新闻稿中,引述了摩托罗拉解决方案公司(Motorola Solutions)一位高阶主管说法,表示新款数位芯片能使公共安全系统实现“新一代的边缘运算应用”;还有一位英飞凌(Infineon )高层主管表示,在没有DSP或云端连接的情况下,单个IM69D130麦克风在处理近端和远端音讯时效果良好。
Syntiant 表示,数位芯片将用于关键字识别(keyword spotting)、唤醒词检测(wake word detection)、喇叭识别、语音事件识别和感测器分析处理。此产品支援63个口语字词,可透过编程识别声音,如玻璃碎裂声;此外可监控气体感测器的数据,或运用被动红外线数据进行人体侦测。
这间新创公司计画在未来采用类比记忆体处理器取代新芯片的数位区块(图中的粉红色部分),以节省更多电源,而不改变周围的IP区块(图中的蓝色部分)。
(资料来源: Syntiant)
该公司将一个工具程序(utility)整合到TensorFlow架构中,以实现量化过程的自动化,并将深度学习模型嵌入芯片,目的在于支持往后的其他架构。Syntiant执行长Kurt Busch表示:“我们提供能介接其他处理器的开发工具套件(SDK)以及训练开发套件,给那些想要自行训练模型的客户,也能提供语音训练服务且想要客制化关键字的客户。”
NDP 100 尺寸为1.4x1.8 mm,采用12球WLBGA封装,可以置入空间受限的手机和助听器中。NDP 101采用5×5mm QFN封装,可以从串行快闪记忆体启动,具备8个GPIO,可作为智能喇叭等大型系统中的主要系统单芯片。这两款产品皆搭载具112-KB RAM记忆体的Arm Cortex-M0核心,已经开始出货。
(原文发表于ASPENCORE旗下EDN姐妹媒体EETimes,参考链接: Startup Rolls AI Chips for Audio;编译:Patricia Lin,EETTaiwan)