中文 英语

大脑神经形态计算:建模

竞争模型争相显示大脑是如何工作的,但没有一个是完美的。

受欢迎程度

你能告诉行人和自行车的区别?臭鼬之间和一只黑白相间的猫吗?或者在你的邻居的狗和小马还是小鹿?当然可以,你可能可以做,没有太多有意识的思考。人类是非常善于解释周围的世界,视觉上和通过其他感官输入。

电脑不是。尽管他们的纯粹的计算速度超过了人类“计算器”很久以前,大型数据中心配备t级数据库才刚刚开始匹配的图像识别能力平均人类小孩。

与此同时,人类创造了更大、更复杂的数字档案,并要求更复杂的问题。你如何找到你想要的照片在数以千计的集合?音乐服务如何回答客户要求“更像这个吗?“计算机支持技术决策如何当源数据经常吵,模棱两可的吗?

神经形态计算旨在构建系统根据生物的大脑结构的变化。这样的系统有潜力分析数据集更快,更准确地说,比传统的分析和更少的计算资源。

当前状态的艺术,人们讨论神经形态计算和大数据分析通常讨论神经网络。而当代神经网络是重要的解决实际问题和在以后的文章中,将讨论生物的大脑他们真的没有太多相似之处。


图1:神经元细胞图。来源:维基共享。

神经元是如何工作的
第一个重要的区别是连接在生物大脑的规模。神经细胞的细胞核是纤维网络的中心,或轴突,每个分支成成千上万树突。每个树突都可以连接到邻近的神经元在结称为突触。尽管电子类似物经常定义这个网络的连接固定,它不是。突触连接不断地创造和打破的。的共同创始人Numenta杰夫霍金斯,解释在2015年IEEE会议电子设备,”(生物)内存布线问题,而不是一个存储的问题,“和一个大布线问题。

等功能在人类neocortex-responsible感官知觉、空间推理和语言是数以百万计的神经元,每一种都可能与成千上万的邻居。大脑皮层有数十亿的联系。大脑作为一个整体有数万亿。相比较而言,最大的基于服务器的神经网络有大约110亿个连接。

此外,大脑是一个模拟系统。电子电路中晶体管。内存元素存储1或0。突触连接并不直接等同于记忆电容,但他们可以强弱,可以增强对刺激做出反应或沮丧。

更准确地说,神经元通过交流电流产生的钠离子和钾离子的流动。有不同的离子浓度在细胞内和细胞外液。当一个pre-synaptic神经元释放神经递质复合,离子通道在突触后神经元兴奋或沮丧,增加或减少离子的流动之间的细胞和细胞外液。豆儿Seok,韩国科学与技术研究所的资深科学家,解释说,突触后神经元的细胞膜作为电容器。离子积累直到达到临界阈值,此时“突触电流”飙升沿着神经纤维传播到其他神经元突触和其他。

电容器充电和放电会反复,直到神经递质浓度消散,所以突触电流实际上包含一系列相关峰值。链的长度和个别峰值的频率取决于最初的刺激。某个特定的神经元的反应链到一个特定的突触电流通常不是线性的。输入和输出信号之间的关系是“获得”的神经元。

不过,必须强调外部刺激和突触之间的关系目前还不清楚。生物的大脑产生连锁的突触电流峰值编码信息。但不可能画一条线之间的“猫”的形象受到视网膜光感受器和特定的突触峰值模式生成的视觉皮层,更少的正面和负面的联想到“catness”形象可能产生其他的大脑区域。许多因素,如非均匀细胞膜潜力,引入“噪音”信号,导致一些信息的损失。然而,大脑显然机制从噪声中提取关键信息数据,丢弃无关的刺激,和适应噪音性数据丢失。这些机制的生物学基础是未知的。

发射突触电流峰值
在建模大脑,至少需要考虑两个层次。第一个是生物机制的突触电流生成和传播链。第二个是这些峰值在记忆和学习的作用。两个水平面临着生物的准确性和计算效率之间的权衡。例如,许多商业神经网络使用“漏水的集成和火”(生活)模型来描述突触传播的峰值。每个神经元都有一个预先确定的阈值,并将“火”一个突触信号超过这个门槛时其邻国。在电子网络,同样,每个神经元预先确定的重量适用于输入信号来确定输出信号。快速确定适当的权重为特定问题是神经网络设计的主要挑战之一,但知道重量后,输出信号是输入信号的点积和重量矩阵。

这种方法计算效率,但不是生物学上现实的。除此之外,生活模型忽略了突触峰值的时间,因此它们之间的因果关系。即信号”“可能会先于或跟随信号“B”和生物神经元的反应取决于相对强弱和两个信号的相对时间。一个严格的生活模式只会认识到两者的结合是否超过了节点的阈值。生物行为在本质上是模拟的,而传统的神经网络的电子行为不是。

两种选择生活模式包含额外的生物物理通道,增加生物现实主义为代价的计算效率。强化神经元模型考虑了细胞膜的复苏程度膜电位迅速返回其名义价值。这个模型可以描述不同类型的神经元,但它保留了计算效率仅考虑膜电位的变化。

一个更加复杂的选择,Hodgkin-Huxley模型认为,不同的生物物理贡献,包括膜电位和钠离子和钾离子电流。之间建立依赖性离子通道的电导和膜电位。进一步扩展原始Hodgkin-Huxley模型识别的几种不同的钾和钠电流和合并神经递质及其受体。HH模型实质上更现实,也更计算复杂。

这三个模型描述突触电流生成和传播的基本机制提高水平的细节。的过程我们称之为“思维”——记忆、学习、分析-一个额外的步骤是必需的。在生物的大脑,这是突触可塑性,这是大脑的能力加强和削弱,破坏和重建突触连接。突触的连锁店提供输入峰值学习规则,下一个层次的大脑建模。

从目前的数据:突触可塑性
的一个最基本的学习规则布朗大学的研究人员在1982年提出Elie Bienenstock称,利昂·库珀和保罗·芒罗(BCM)表示突触变化的产物pre-synaptic活动和突触后活动的非线性函数。用发射率来表示,无法预测时间依赖修改突触。

一个更复杂的模型,套牢可塑性,认识到两个信号的相对时间也很重要。是一个积极或消极的经验与一个特定的刺激?如何密切?这些细节影响突触连接的相对优势。最基本的STDP模型比较双峰值的时间。如果pre-synaptic高峰在突触后飙升之前,连接增强。否则,它是削弱。然而,基本STDP模型并不复制实验数据以及BCM模型。

一个提出修改,triplet-based STDP学习规则,比较三组峰值,而不是对。它的行为作为一个广义BCM规则在突触后神经元响应输入强化模式和输入和输出峰值之间的相关性。这些高阶相关性是无处不在的自然刺激,所以毫不奇怪,三个一组的规则更准确地再现了实验数据。

这些模型和学习规则是“最好”的选择很大程度上取决于形势。神经科学家寻求发展模型,可以准确地再现生物大脑的行为,希望了解人类心理背后的生物机制。神经形态计算寻求使用生物机制通知电子系统的体系结构,最终推导改进实际数据分析问题的解决方案。复制特定的突触峰值链或一个特定的学习行为是次要的准确性和计算效率。

本系列的第二部分将显示“最好”的神经网络的原因不一定是最大的“类人脑”的行为。

有关的故事
接下来的晶体管
新的场效应晶体管,量子位,神经形态方法和先进的包装。
神经网络计算爆炸
资金雄厚的公司开始定制这种方法为特定_花大量的钱收购初创公司。
在神经形态计算(2016年1月)
一般视觉首席执行官谈到为什么有兴趣重燃这样的技术和在未来将如何使用它。
神经形态芯片Biz升温(2016年1月)
旧概念得到新的关注随着设备扩展变得更加困难。



8的评论

约翰巷 说:

优秀的文章。尤其对HH模型。我一直认为记忆电阻器将用于神经形态硬件对许多目的,但最根本的是允许的准备表示真实模拟阈值(数值)。

我越来越感兴趣的应用神经形态记忆电阻器。指针将被欣赏。

kderbyshire 说:

继续阅读。本系列的后续文章将看一些神经形态提出了硬件实现的系统,和记忆电阻器是绝对榜上有名。

凯瑟琳,喜欢这篇文章。人类的大脑是极其复杂的,我无法想象它自组装基于随机机会,设计复杂性似乎。

kderbyshire 说:

一个有趣的问题,但这超出了本文的范围,或本网站。

memister 说:

伟大的文章。不过,想在大数据环境中,数据不是pre-correlated(如图像),是神经形态最合适?似乎可能会浪费大量的突触连接。

kderbyshire 说:

因为神经形态架构还在起步阶段,我不知道任何人知道哪些应用程序将是最适合的。和“自学”自己神经网络可以发现模式比“训练”网络更不成熟。这都是一个活跃的研究领域,我将在本系列的后续文章看看。

生物的大脑的一个方面是,潜在的突触连接的数量非常巨大,这无关紧要是否“有效的利用。“发现连接不相关的数据是一个定义的“创造力。“但神经形态计算还有很长的路要去满足这一标准。

Melaku 说:

这是一个很好的解释神经形态计算。然而记忆电阻的未来及其与生物突触的相似之处必须解决,因为当前该领域的研究工作集中在电气元件。谢谢你!

凯瑟琳德比郡 说:

继续阅读。本系列的其他文章中详细看看memristor-based神经形态结构。

留下一个回复


(注意:这个名字会显示公开)

Baidu