中文 英语
知识中心
导航
知识中心

Near-Memory计算

将计算移近内存以降低访问成本。
受欢迎程度

描述

也叫计算记忆

存储器是用来在计算机中存储指令和数据的。大多数计算机采用冯·诺伊曼结构,其中可以通过索引(称为地址)访问单个连续内存区域。将内存内容来回移动到处理器是有成本的,并且成本随着它们之间的相对距离的增加而增加。成本可以用性能和功率来衡量。成本最低的解决方案是将内存放在与处理器相同的芯片上。这限制了可以存在的内存量和可以使用的内存量类型。

一旦脱离芯片,就可以连接更大量的内存,但传输成本会显著上升。内存数量和传输成本之间存在一般关系。在大多数计算机中,缓存通常小于1Mbyte,并作为SRAM实现。DRAM是通过插槽连接的独立芯片和主板,提供的存储空间通常小于1TByte。磁盘存储可以是这个大小的许多倍,人们可以将云视为访问成本最高的最大存储池。

对于许多计算机来说,在一个层次结构中使用几种类型的内存,以便最频繁访问的数据更靠近处理器。缓存就是这种实现的一个例子。当多个处理器都共享相同的地址空间时,这变得更加复杂。这种类型的设计可以被描述为使内存更接近计算。

随着系统变得更加分布式和异构,采取相反的策略并将计算移到更靠近内存的地方变得越来越普遍。用最简单的术语来说,这可能是一个微控制器在数据流到达主计算系统之前对其进行处理。它还可以存在于更大的环境中,例如云应用程序,其中一些计算不是在云中进行,而是在边缘进行。在这种情况下,就地计算比数据传输更便宜。

与通用计算相比,特定的应用程序通常更了解内存访问模式,或者具有不同的需求。在这些情况下,具有优化接口和数据管理的专用内存可能在性能和功耗方面提供显著优势。对于图形处理器(gpu)来说,这很常见,因为图形处理器拥有通往相对较少内存的高速通道,在这些通道中,传输被最佳地组织为该应用程序。这些内存中的大部分是不能被它所连接的一般计算机环境访问的。

今天,我们看到有内置处理能力的存储芯片被制造出来。例如包含flash的ssd (Solid State Disks)硬盘。这些内存存在一些问题,这些问题可以通过大量的处理来克服,比如损耗均衡和垃圾收集。为这些设备添加专用的应用程序处理器,或者在现有处理能力不执行管理功能时利用它,都不是什么大的飞跃。在这些情况下,要执行的应用程序通常由主处理器加载到内存芯片中。类似地,其他可以在dram上增加处理能力的存储芯片也在生产中。

多媒体

内存和近内存计算

多媒体

边缘推理芯片中的存储子系统

多媒体

新的内存选项

Baidu