经久以来,人脑一向给研究者们供给着灵感,因为它大年夜某种程度上以有效的生物能量支撑我们的计算才能,并且以神经元作为基本激发单位。受人脑的低功耗和快速计算特点启发的神经形态芯片在计算界已经不是一个新鲜主题了。因为复杂算法和架构的快速成长,散热已经成为了一个重大年夜挑衅。神经形态计算或许会是超大年夜范围机械和人工智能应用(例如主动驾驶)将来的基石。
表 2 中的结不雅注解,与基准精确率比拟,当局仅应用三种精度改良办法中的一种时,精确度会有很大年夜的晋升(分别是 1.52%,1.26% 和 0.4%)。当两种或者三种办法被同时应用时,精确率还会更高,接近于幻想值。在应用卷积神经收集的时刻会有同样的发明。一些组合,例如 QR+BT,与仅仅应用 QR 比拟,精确度并没有晋升(如表 2 所示)。这很可能是因为 MNIST 是一个相对简单的数据库,并且这三种办法对精确度的改良已经快速地达到了饱和程度。在独裁感知机和卷积神经收集中,精确度降低被控制在了 0.19%(MNIST 数据集)和 5.53%(CIFRAR-10 数据集),与未应用这三种办法的体系比拟,精确度的下矫肮煸颡低很多。
「不知为何,人脑——我们本身的生物体——已经弄清跋扈了若何让人脑在传递 AI 操作上比传统的超等计算机快一百万倍」神经形态是一次机会,它测验测验提出一个基于 CMOS 的架构,它可以或许模仿人脑,大年夜人脑模型中获益,保持能效和成本效益。——Mark Seager, Intel Fellow,可扩大数据中间 HPC 生态体系的 CTO
相反,神经形态芯片只须要一个低程度的能耗,因为它的类生物本质。人脑异常节能的一个原因就是,神经冲动在传递的过程中只会放掉落一小部分的电量。只有当积聚的电量跨越一个设定的界线时,旌旗灯号才会经由过程。这意味着神经形态芯片是事宜驱动的,并且只有在须要的时刻才会运作,这就导致了一个更好的运行情况以及更低的能耗。
几家公司已经投资了在脑启发计算中的研究。无线技巧公司高通在 2014 年的时刻展示了惹人入目标基于神经形态芯片的机械人。这款机械人可以或许在智妙手机芯片上用修悛改的软件实现平日须要专门编程的计算机才能实现的义务。IBM 2014 年临盆的 SyNAPSE 芯片也是用脑启发计算架构构建的,它有着难以置信的低功耗,在及时运行中只有 70mW。比来,神经形态再次引起了 IBM 和英特尔这些公司的兴趣。与之前 2013、2014 年那时刻意欲制造市场化的产品不合,此次他们欲望以研究的目标进行摸索。
英特尔在 2012 年就作为第一批原型之一提出过一种类似于生物神经收集的自旋—CMOS 混淆人工神经收集(spin-CMOS Hybrid ANN)的设计样例。在这个设计中,神经元磁体构成了触发部位。磁地道结(MTJ)类似于神经元的细胞体,域墙磁体(domain wall magnets,DWM)类似于突触。通道中心区域的自旋势能等于控制激活/非激活状况的细胞体的电势能。CMOS 的检测和传输单位可以被比作传输电旌旗灯号到接收神经元的突触(如图 1 所示)。
除了低功耗方面的优势,神经形态设备还比较善于在那些除了超等计算之外的须要模式匹配的义务,例如主动驾驶和及时传感馈送神经收集。换句话说,就是那些须要模仿人脑思虑或者「认知计算」的应用,而不是简单的更强才能的复杂计算。正如 Mark Seager 所建议的,神经形态的成长应当聚焦于具有大年夜量浮点向量单位和更高并行度的架构,并且可以或许以相当同一的方法去处理高度分层记忆。更具体的,关于神经收集,研究的重点是若何经由过程互联来并行化机械进修的义务,例如英特尔开辟的 OmniPath,来解决更大年夜、更复杂的机械进修问题,大年夜而在多节点长进行扩大。今朝扩大性限制在数十个到数百个节点之间,这让神经形态芯片的潜能受到了限制。然而,有一件事是合理的,即跟着计算神经收集算法和模型的进步,可扩大性可以大年夜幅增长,这会许可神经形态芯片有着更多的进步空间。
然而,我们必须承认,尽管神经形态在将来的计算偏向上是很有前程的,然则它们仍然处于理论程度,并且还没有被大年夜量地临盆。有几种设备据说有神经形态芯片的元素,尚且存在争议,例如 Audience 临盆的噪声克制器,然则它们还未向今朝大年夜量的要获得其机能评估的刺激垂头。正在进行的研究已经被证实有了克服实现神经形态芯片所碰到的艰苦的进展性工作,并且给神经形态枷⒚承诺了一个好梦的将来。
实验
「这个架构可以或许解决大年夜视觉、声音以到多场景融合的很广泛的问题,并且有潜力经由过程在计算受到功率和速度限制的设备中集成类脑机能来改革计算机家当。」—Dharmendra Modha, IBM Fellow
神经形态的目标是精力经科学作为算法的灵感来大年夜中抽象出关键思惟来指导神经形态计算架构的将来成长偏向。然而,将我们的生物构造转换为振荡器(oscillators)和半导体的电气设备并不是一件轻易的工作。
推荐阅读
【51CTO.com原创稿件】如把编程喻成拼积木,最初只有根本积木,用这些积木拼出大年夜积木。大年夜积木一旦拼好,就可无穷复制。之后再用拼接好的大年夜积木拼更大年夜的积木。如许一来,积>>>详细阅读
本文标题:解读神经形态计算:从基本原理到实验验证
地址:http://www.17bianji.com/lsqh/36057.html
1/2 1