神经形态计算和神经网络并不是一回事。
神经网络。神经形态计算。Non-von诺伊曼体系结构。我一直在研究我的神经形态系列计算,我遇到很多新的术语。这并不总是容易找出正在讨论什么。解释试图澄清自己的文章中使用的术语和帮助别人整理快速增长的文学领域。
第一个挑战是区分硬件和软件。例如,神经网络可以被描述为几层相互连接的节点组成。第一层可能会适当的权重应用于图像的每个像素,将结果传递给下一层。连接节点可能结合产生一个加权和他们的个人贡献。
这样的神经网络可以完成有用的工作,但是他们不一定与神经形态计算。描述所有的步骤完全可以通过标准的硬件执行常规的矩阵乘法和总结。随着数据的规模和复杂性的增加,矩阵变大,但基本概念实现最少的资源。
如今大多数可用的电脑都是基于所谓的冯诺依曼体系结构。在这个模型中,有一个计算单元和内存之间的严格分离。对于每个操作,计算单元加载数据和处理指令寄存器。结果是存储在另一个注册在接下来的操作,或保存到内存中,直到需要。现代微处理器可能有多个计算单元,64位寄存器,和大量的硅致力于高度专业化的指令,但基本模式以来没有改变早期的数字计算。
有这个问题。无论如何快速计算单位和巨大的内存数组,计算最终总线连接的带宽限制。时,在神经网络中,对大型数据集计算涉及简单的操作,读取和写入所需的时间计算寄存器可以矮实际计算时间。Non-von诺伊曼体系结构试图找到一种方法解决这个瓶颈。如果有一种方法把计算和数据存储在一个电路块吗?数据信号可能被应用到一个数组的盖茨,这传送通过一系列预定的逻辑操作。(如在一个FPGA。)或者,如果不是加法,矩阵乘法,记忆被激活的元素更频繁地变得强大,直到他们达到了一个临界点?
这两个例子提供替代传统的模型。的读者本系列的第一部分可能认识到第二个例子和生物的大脑之间的相似之处。
生物的大脑没有内存元素和没有中央计算单元。他们是高度相互关联的组件的神经元和突触,交流脉冲离子束介导的神经递质。尽管一些复杂的功能,比如面部识别,似乎是天生的,人类的大脑在很大程度上是自编程序,继续构建之间的关联在个人的生活经验。生物的大脑也忘记:如果不是钢筋连接可以衰变。生物的大脑,有一定程度的随机性,神经科学家相信创造力和解决问题的可能是必要的。
不仅神经形态计算寻求复制生物大脑的结果可以达到,但是使用类似的机制。泄漏和随机噪声是有害的传统架构,但是可能是至关重要的。本系列的下一篇文章将讨论,相变和电阻记忆的不一致的表现让他们领先的候选人在人工神经元突触和使用。
有关的故事
大脑神经形态计算:建模
竞争模型争相显示大脑是如何工作的,但没有一个是完美的。
加速神经网络
添加更多的维度创建更多的数据,所有这些都需要使用新的建筑方法处理。
神经网络计算爆炸
资金雄厚的公司开始定制这种方法为特定_花大量的钱收购初创公司。
利用cnn加速系统
仅仅依靠更快的处理器时钟速度并不是足够的视觉处理,并蔓延到其他市场。
解码大脑
将如何解码果蝇的大脑帮助我们建立更好的电脑吗?卢雅伯说,我们还有很长的路要走电子赶上图像识别。
|
|
|
|
|
|
|
|
留下一个回复