DRAM权衡:速度和能量

半导体工程坐下来谈论新的DRAM选项和注意事项与弗兰克,铁产品管理高级主管Rambus;马克•格林伯格集团产品营销主管节奏;格雷厄姆·艾伦DDR phy高级产品营销经理Synopsys对此;高级经理和天山什叶派内存市场三星电子。以下是摘录的谈话。本文的第一部分在这里。

格雷厄姆·艾伦(唐森):弗兰克•铁Tien什叶派,马克·格林伯格。图片来源:苏珊兰博/半导体工程

SE:片上内存和片外存储器相比如何?

铁:这是最有效的。有一些使用所有SRAM的加速器。很贵,但是他们所能做的就是仔细缓存并尽量减少数据移动。

艾伦:还有一个瓶颈,SoC设计人员开始挣扎,它不仅仅是带宽。它的带宽/毫米的腐蚀而死。如果你有一个带宽预算,你需要为你的SoC,锻炼是一个很容易看你能找到所有的主要技术。如果你有HBM2E,你可以得到的每毫米每秒60 + g死亡边缘。你只能得到六分之一的GDDR6。我只能得到十分之一的LPDDR5。如果你有一个非常高的带宽要求,和你没有巨大的芯片,你没有选择。你会耗尽海滨SoC如果你放下除了HBM接口。这些东西可以帮助客户做出这些决策。你可以重新评估你需要多少带宽。 You can find chips with 12 GDDR6 interfaces. Three sides of the die are memory interfaces. You can actually put two DDR5 interfaces between an HBM PHY—they have a space because you have to pattern on the DRAM. The HBM can be considered almost a cache, so you can put two DDR interfaces between them and you have HBM in the package and on the other side of the package on the PCB you have four DIMM slots—all for what it would take to put down four to six GDDR6 interfaces.

SE:很多可以提前计划好了。面临的挑战之一就是有太多的复杂性与加载和用例。负载的变化取决于谁在使用它,当他们使用它和手机。你如何评估用于什么和如何影响记忆应该使用哪一个?

格林伯格:有几件事你总是想看看,比如需要多少能量。转化为力量。HBM赢家在每一点能量。然后你必须看内存的成本和生产是多么困难。你需要看你需要多少容量。并不是每一个内存技术可以实现通道相同数量的内存容量。变得非常私人的每一个芯片。芯片的架构师必须知道他们射击。我们可以帮助,但是他们需要知道他们在拍摄。

艾伦:一个很好的例子是固态硬盘市场。你一开始就相对少量的SSD,因为他们没有巨大的能力。DRAM的数量你需要的只是一个缓冲区的大小成正比SSD和控制器。如果你有一个相对较小的一个,你可以侥幸LPDDR4今天。但是你不能从LPDDR4得到很多能力。他们会试着在两个LPDDR4,和这些人一定会尝试一些东西在四LPDDR4的行列。没有目标的等级确定。这是额外的东西只是杀死了性能。如果你超越,你开始看到dimm用于企业级的解决方案。所以他们都存储,但这取决于应用程序类的你,将决定哪个内存是最适合你。 Another issue with DDR is all of the reliability and seviceability. Those are the kinds of features that servers require, which is why they’re all built into DDR5. But they’re starting to trickle into some of these other components, as well. LPDDR5 inventing Link ECC is a huge move. We’ve never seen that in a mobile memory before. And for the previous generation, we’re were all developing products where you had to dedicate some of the memory to it and some of the bandwidth to the checking of it, but with LPDDR5 you don’t have to do that anymore.

铁:与可靠性,缩小的选择,因为你也有引进流程节点。你有多少选择?我们讨论网络的高可靠性要求,然后像美国国防部高级研究计划局的其他应用程序,然后汽车。所以现在你缩小你的选择。生产流程节点是合格的。LP带头。这是一个很好的方式对于DRAM厂商脱离手机市场在排位赛LPDDR汽车。

SE:当你开始下降的电压在设计?据说显著减少电压在5和3 nm。

艾伦:今日很长一段时间有一个电压为核心和I / O。然后出现了一个类似LPDDR4x,每个人都质疑他们为什么不这样做很久以前的事了。现在休息,终于,内存核心和支持电路操作在一个电压和I / O有能力改变不同的东西,有很多选择。使用LPDDR5,可以有不同的电力供应,取决于你想达到的速度。最后可以变化,实时应用程序来节约电能。你可以针对基于你实际上做什么,而不是拨号频率。你可以玩的权力,与终止设置,和一些时间设置。所有这些事情可以优化操作的每一个特定的国家权力的接口。

什叶派:我们倾向于向下的电压和功率需求与每一个新的一代。如果你看看GDDR5,通常为1.55伏。与I / O GDDR6下降到1.35伏特。LPDDR4,它通常1.1伏特。HBM通常1.2伏特。但是在边缘空间和性能方面,如果你看看今天的最好的GPU图形卡,这是一个大约12 GDDR芯片的布局。GDDR5在最后一代GTX 1080 ti。现在是RTX 2080 GDDR6。但很长一段时间,目前卡12个字节,这是12的GDDR5 GPU芯片了,给你384字节每秒high-power-consuming,非常real-estate-expensive配置。如果你看看HBM,新一代的GPU,两个堆栈的HBM2 GPU将给你0.5字节每秒。 Typically, the higher-end GPUs have four stacks, which is over a terabyte per second, versus the fully laid out GDDR configuration, giving you 384 gigabytes per second. So if you want the highest bandwidth, highest-performing, lowest-power, least amount of real estate, HBM is the way to go.

SE:如果你进一步下降的权力,对可靠性有影响吗?

什叶派:是的,它开始影响信号。HBM3,如果我们看看下一代I / Os是更低的规范力量。

铁:它会影响信号完整性的I / O。我们已经做了非常低的swing LPDDR I / o,在0.5伏和非标准的波动。降低I / O电压时,明显的挑战是在物理设计的电路板,甚至插入器。你认为插入器通道应该完美的工作,但是他们硅和电阻,而变化的特点,你在做什么。它移动芯片设计简单,但它使系统的难度,降低I / O电压。这还不包括核心电压。

艾伦:我们得到很少的时间预算的IP SoC的供应商。我们必须帮助我们的客户定义的时间预算。

SE:什么时候开始的?

艾伦:并不是新的。它开始大约每秒800比特,因为这是当你可能真的遇到麻烦如果你就继续做你总是那样。你不能达到你的目标的频率每秒800比特。现在,这绝对是至关重要的。你谈论电压和时间数字,但他们永远无法准确表示系统中会发生什么,因为他们总是要让所有最坏的假设发生在同一时间。你有脾气,有技术可以用来统计应用这些事情,以确保你没有做得太过火。否则,你只是向系统添加更多的成本来纠正。你可能会把更多的电容器在包,或有更多的解耦SoC。您可能需要更多的权力和地面球妥善隔离对相声包球。电压和功耗问题发挥作用,同时,由于这些信号过渡,这些信号转换正在一大块的时间预算。 We get about 30% of the UI of the PHY in the SoC. The DRAMs get the lion’s share, because they design their own standards. And then the channel gets the rest.

格林伯格:它总是一个问题你想支付多少的记忆。什么都可以做,但该行业在电平,使一个集体决定对每个人都有好处的事情。希望我们减少成本/函数对每个人来说,我们做的好。时间预算问题,我们已经从一个地方10年前800每秒,我们给客户一个电子表格。这是一个单页表格。我们现在有一个整个团队的人负责的时间预算,他们使用工具如时机解决三维电场建模问题找出如何得到一个信号从一个地方到另一个地方与一个合适的时间预算。水平的复杂性已经从一个人与一个电子表格一个完整的团队。

艾伦:它使我们能够区分。内存接口都连接到标准的产品,你们的产品与其他产品进行互操作。但是我们没有任何标准。我们在英吉利海峡的另一端。我们不符合电平标准。我们的接口兼容电平标准后发展出。我们没有标准,所以我们必须决定什么是最优面积和功耗为各种不同的客户,因为理想情况下我们希望能够建立一次,卖给客户。

SE:有不同的方式增加内存设备。是直接把柱子上一个芯片,你不需要通过一个插入器运行。这是怎么工作的?我们可以的,如果我们把记忆不同,我们可以减少延迟和性能瓶颈?

铁:有大,垂直整合DRAM公司攻击问题。即使在规格上我们做的HBM,人们要求整理2.5 d和3 d设计。我们还没有看到任何3 d设计。但phy额定温度远高于DRAM,所以最小公分母。

SE:如果DRAM变热?

艾伦:细胞的电荷泄漏,所以你必须刷新。这就是为什么刷新要求后发上去后发升温。你会看到很多达利克有热传感器来跟踪。

铁:这就是为什么宽I / O看起来就像一个伟大的解决方案。但你需要一个公司领导负责,你需要驱动它的体积。没有人能够推动这一标准。你需要体积,降低成本。

艾伦:但好消息是tsv变得成熟。他们用于HBM, 3 ds DDR4使用。

有关的故事
在DRAM HBM2 vs GDDR6:权衡
第1部分:选择不同取决于应用程序,成本和容量和带宽的需求,但选项的数量是令人困惑。
记忆的选择和权衡
什么样的工作最好的地方,为什么记忆。
记忆权衡加强人工智能、汽车应用
为什么选择记忆和架构设计成系统变得更加困难。
GDDR6——HBM2权衡
什么类型的DRAM效果最好。
延迟加载下:HBM2与GDDR6
为什么选择内存取决于数据流量。
目标:记忆力下降50%
是否可以减少50%的电力消耗的内存?是的,但它需要在架构级别的内存和工作。
混合内存
技术讨论:DRAM缩放到底能持续多久?