神经形态计算诞生于1980年代Carver Mead的实验室,当时Mead描述了第一个模拟硅视网膜。在Mead的时代,“神经形态”意味着用硅片模拟生物神经过程,尽可能地复制它们。但现在这个词有了更广泛的含义。
受生物学启发的不同的传感和计算方法开始激增,有些只是模糊地受大脑启发。随着摩尔定律的放缓和加速计算的增长,以及我们寻求能实现硅片下一个前沿的技术,神经形态传感和计算正受到关注。
嵌入式视觉峰会最近的一次圆桌会议,讨论了神经形态的当代意义,以及从自然中获取灵感和对其进行直接复制之间的平衡。虽然所有的神经形态技术都基于仿生学——从生物系统和结构中获取灵感或对其进行直接复制——但圆桌嘉宾在灵感和模仿之间的正确平衡上存在分歧。
“神经形态用于表示数十种不同的事物。”人工智能加速器芯片公司Perceive的首席执行官(CEO)Steve Teig表示,“某个事物的变形或形状是什么并不重要,重要的是它有什么功能,所以我看不出试图模仿神经元的好处或坏处。”
Steve Teig(图片来源:嵌入式视觉峰会)
Teig引用了与现代飞机无关的鸟类飞行的经典例子。
“我们想要的东西和鸟一样,但它不必像鸟一样实现。”Teig表示,“我看不出在飞机中试图模仿鸟的飞行方式有任何内在优势,只要你最终能飞起来。”
Opteran公司首席科学官兼谢菲尔德大学理论与计算生物学教授James Marshall表示,该公司对神经形态的定义持非常广泛的看法。
“我们在Opteran进一步扩大了神经形态的定义,将算法包括在内——我们对真实大脑的工作方式进行了逆向工程。”Marshall介绍说。
Opteran在其机器人系统中使用了标准摄像头和标准数字计算硬件(没有基于事件的摄像头或脉冲神经网络)。
James Marshall(图片来源:嵌入式视觉峰会)
“对我们来说,重要的是了解真实大脑进行的信息处理,并在一些当代硅片技术中对其进行复制。”他补充道。
英特尔实验室的研究科学家Garrick Orchard同意神经形态这个词的含义自1980年代出现以来已经发生演变。
“神经形态这个术语现在是如此广泛,以至于它的意义很小。”他表示。
英特尔实验室是英特尔神经形态计算产品Loihi的诞生地。Orchard表示,英特尔实验室的方法是尝试了解生物学中正在发生的事情,并将其应用到硅片上,这样做是有意义的。
“我们在生物学中看到的哪些原则,对我们在硅片中取得更好的成果非常重要呢?”Orchard表示,“可能有生物方面的东西确实提供了优势,但它们可能无法很好地转化为硅,因此我们不应该强迫硅片做可能使事情变得更糟的事。”
匹兹堡大学教授兼CMU机器人研究所兼职教授Ryad Benosman表示,在我们完全了解生物大脑的工作原理之前,可能无法达到正确的平衡。
“从历史上看,神经形态是关于在硅片中复制神经元,并且它已经进化了很多。”Benosman指出,“但没有人真正知道大脑是如何工作的——我们甚至不知道真正的神经元是如何工作的。”
Ryad Benosman(图片来源:嵌入式视觉峰会)
Benosman指出,在巨型鱿鱼神经元的Hodgkin-Huxley数学模型(1952年)之前,关于神经元如何工作有许多不同的想法,但这些想法在那时实际上消失了。在他看来,神经元的工作方式仍然是一个悬而未决的问题。
“神经形态令人印象深刻,很酷,但它与我们对大脑的了解程度密切相关。”Benosman指出,“我们同意,在我们到达阶段之前,我们可以从大脑如何工作以及我们在这个时代可以构建的东西中收集到很多阶段。”
Perceive的Steve Teig对此表示不同意,他认为完全理解生物学并不是改善神经形态系统所必需的,因为我们不需要对其进行完全复制。
“假设我们完全了解视网膜的工作原理——它仍然是生物进化最终导致了视网膜的出现,”他指出,“视网膜有各种各样的限制,这与我们现在在构建技术方面的限制有所不同。因此,模仿视网膜非常擅长的其他事情可能会带来好处,但不是其本身,因为那是视网膜做的事情,这就不是合适的工程策略。”
Opteran的James Marshall提出了并非所有大脑都以相同方式工作的观点。
“我们并不真正了解脉冲是否重要。”Marshall表示,“实际上有许多不同种类的神经元类型,它们并不都是积分点火(IF)模型——在昆虫中,你有化学突触、连续动作电位,而在早期视觉处理中,这真的很重要。”
Marshall解释说,Opteran并没有在其算法中使用脉冲(图1)——“只是简单的线性滤波器,但以一种巧妙的方式组合在一起,就像生物学中的很多东西一样。”
图1:(左)Hassenstein-Reichardt Detector,一种生物大脑中的运动检测模型;(右)Opteran源自蜜蜂大脑的专利算法。(图片来源:Opteran)
英特尔实验室的Garrick Orchard对此持相反的观点。英特尔的Loihi芯片旨在通过异步数字电子技术加速脉冲神经网络。
“在我们的实验室中,我们试图研究我们认为在生物计算中看到的哪些原则是关键原则,并将它们应用到对硅片有意义的地方,我们认为脉冲是这些原则之一。”Orchard表示,“但你必须考虑脉冲的哪些属性有意义,哪些没有意义。”
Garrick Orchard(图片来源:嵌入式视觉峰会)
英特尔的第一代Loihi芯片使用二进制脉冲,反映了将脉冲的全部信息编码到其时序中的生物学,而第二代Loihi芯片则具有可编程神经元,可以接受不同的脉冲幅度(图2至图4)。
图2:英特尔的Loihi 2第二代神经形态处理器,该芯片是第一个使用预生产版本的Intel 4工艺技术制造的芯片。(图片来源:英特尔)
图3:Loihi 2功能。(图片来源:英特尔)
图4:Loihi 2将作为单芯片板提供给研究人员,用于开发边缘应用(Oheo Gulch)。它还将作为一个八芯片板提供,旨在扩展以适应更苛刻的应用。(图片来源:英特尔)
如果脉冲幅度不重要,我们怎么知道脉冲的重要性?
“脉冲确实帮助我们解决了稀疏性的想法。”Orchard表示,“如果你有一堆彼此之间交流非常稀少的神经元,你可以想象有几个优势。你传输的数据更少,总线上流过的流量也更少,这可以减少芯片运行的延迟,我们认为在这个领域,在脉冲域内运行具有显著优势。”
那使用模拟计算又怎么样呢——毕竟大脑是台模拟计算机?
Orchard指出,如果脉冲的大小不重要,它们可以用0或1表示,我们可能会争论模拟和数字之间的界限在哪里。
Loihi是数字化的,部分原因在于英特尔在数字电子方面的专业知识,他补充说。
“我们看到了使用我们最新制造技术的显著优势,这能够将节点尺寸缩小到非常小的程度,而仍然让数字电路能非常可靠地工作,因此,对我们来说,坚持数字领域和提出可重复计算具有很大优势,这在你调试东西时当然也非常有用。”他表示。
Opteran的James Marshall表示,由于生物学的限制而进行的权衡,可能意味着脉冲是生物系统的最佳解决方案,但这并不一定会转化为硅片,这也同样适用于模拟计算。
“如果你以大脑为参考,它不仅要进行信息处理,还必须让自己保持活力。”Marshall指出,“你不想重现与做家务有关的神经元的细节……生物必须回收化学物质和各种东西才能避免死亡,这是基本的,因此与信息处理元件完全无关。”
Perceive的Steve Teig对模拟硬件更加开放。
“模拟可能会有价值,因为你花在模拟上的平均功率可能大大低于数字。”Teig表示,“我个人没有支持或反对模拟的爱好,我认为这是一种有意思的计算形式。对我来说,这就是退一步说你想让你的电脑做什么?你希望你的互连看起来像什么?然后设计类似的东西。”
Ryad Benosman支持神经形态计算的异步数字方法,例如英特尔的。
“对于计算,如果你想在今天制造产品……你所拥有的可以使用的模拟产品屈指可数,这是不可持续的。”他表示,“我认为你需要的是异步的。摆脱你的时钟……我认为这就是未来的发展方向。”
总的来说,圆桌嘉宾一致认为没有必要盲目复制生物学,而是借用对我们有用的部分。然而,对于究竟哪些部分有用,仍然存在一定分歧。
“我们不知道我们是如何模拟世界并自学学习和吸收信息的。”Steve Teig表示,“对我来说,这个话题虽然从科学上看很有吸引力,但这与基于事件的硬件、脉冲还是模拟谁更胜一筹无关。”
(原文刊登于EDN姐妹网站EE Times,参考链接:Inspiration or Imitation: How Closely Should We Copy Biological Systems?,由Franklin Zhao编译。)
本文为《电子技术设计》2022年9月刊杂志文章,版权所有,禁止转载。免费杂志订阅申请点击这里。