为什么内存AI系统的选择取决于应用程序。
简而言之,人工智能(AI)和越来越多的应用程序需求相当大量的带宽将碎片的记忆在最高速度。人工智能工业已经得到了很多关注,当然这并不是一个新现象,因为它是在去年获得了更大的牵引力。
以来尤其如此数量的芯片制造商稳步铸造新的AI硅遵守行业的要求。有两个原因日益增长的技术趋势。一个是AI是变得越来越复杂;它必须运行复杂的算法在更大的范围内,因此需要新的处理器架构。
另一个是大量的信息增长远远快于其他技术曲线。根据专家的,世界上的数字数据是每两年增加一倍。
更多的数据筛选,过程和决策,需要专门的硅危机日益增长的数据集。专门看内存子系统,有两种类型争夺各种不同的人工智能应用程序包括高带宽内存(HBM)和GDDR6都提供业内最高的可用内存带宽。
记忆将AI系统设计师选择?这取决于应用程序的类型。这不是一个案例一个记忆系统是更好的比其他。真的是什么安装您的应用程序。随着行业开始成熟,HBM被用来支持那些辆顶级人工智能应用程序提供超过300 gb / s带宽/设备(HBM2E)。这么高的带宽都付出了更高的代价,因为3 d制造技术需要DRAM,和2.5 d制造系统(参见下面的图1)。
对成本敏感的应用程序,GDDR6是一种有效的解决方案提供64 gb / s /设备。GDDR6用于中档人工智能应用程序和也被认为是中档路由器等更为传统的网络应用程序,甚至在无线网络。
无论如何,内存技术的选择,这些系统带来独特的设计挑战。在我上一篇博文、信号完整性(SI)挑战GDDR6-based系统进行了探讨。现在,让我们看看HBM的挑战。
为了达到非常高的带宽,HBM有1024信号针需要路由到DRAM(更多当你包括控制和地面信号)。路由这大量的别针从SoC DRAM,使用硅插入器(见图1)。
图1:HBM2 DRAM
当路由信号通过插入器,与SI相关联的所有常见的信号效应正在使他们的存在,。包括插入损耗、反射、噪声、失真、相声、电源引起的抖动(PSIJ)。
硅插入器是一个电阻频道,所以如果效果会有所不同从一个传统的PCB设计。通道因素包括通道长度、跟踪宽度和厚度、信号间距、路由和地面层。
正如所料,通道长度有显著影响信号的完整性。SoC的通道长度之间的DRAM可以改变4.5到8.5毫米。随着通道长度的增加,那么插入损耗和远端串音。图案的地面层的使用,需要满足金属密度规则,还引入了额外的插入损耗和远端串音。
此外,信号路由层插入器的数量是很重要的考虑。更多的与路由和信号间隔层将有助于最小化相声,但增加了成本。鉴于HBM为代价的,重要的是平衡这些参数来最小化成本的最大性能。
总之,如果将这些HBM2的最前沿,GDDR6-based人工智能系统的设计。AI SoC和系统设计师应该与供应商密切合作,拥有广泛的SI经验与PCB和2.5 d设计为了降低信号完整性的影响,设计最优系统。
|
|
|
|
|
|
|
|
|
|
留下一个回复