最新版本的高带宽内存标准如何跟上日益苛刻的应用程序。
与出版HBM3更新到高带宽内存(HBM)标准,一个新的带宽之王被加冕。高级工作负载的狂热性能需求,以及AI/ML训练的领先地位,推动了对更快交付比特的需求。内存带宽是计算性能的关键因素,因此需要以HBM3作为新的基准来加速标准的发展。
以下是HBM3提供的功能:
让我们在一个潜在的用例中总结这一切。未来的AI加速器实现有6个HBM3 DRAM设备。在6.4 Gb/s时,总聚合内存带宽为4.9 TB/s。每个12 x 32Gb HBM3 DRAM设备的容量为48GB,因此AI加速器可以访问288 GB的直接连接HBM3内存。
这是巨大的能力。HBM3扩展了最初被称为“慢而宽”的HBM内存架构所设定的带宽性能记录。虽然接口仍然很宽,但HBM3在6.4 Gb/s的速度下运行已经非常快了。在所有条件相同的情况下,更高的速度意味着更高的功率。宽接口的动机(这需要更高的复杂性2.5D架构)是在低数据速率下以低功耗提供高带宽。为了补偿,HBM3降低了工作电压(上面列表中的最后一项)以获得更高的电源效率。
但是天下没有免费的午餐,对于已经具有挑战性的2.5D设计来说,更低的电压意味着更低的设计边际。幸运的是,Rambus支持您的8.4 Gb/s HBM3内存子系统,它提供了足够的设计空间和扩展空间。为了帮助您成功地利用HBM3内存的全部潜力,Rambus提供了插入器和包参考设计。
Rambus内存子系统包括一个模块化和高度可配置的内存控制器。控制器经过优化,以最大化吞吐量和最小化延迟,其内存参数是运行时可编程的。它拥有超过50个HBM2和HBM2E客户实现,在各种配置和数据流量场景中都展示了效率。
虽然通往更高性能的道路是一段旅程,而不是终点,但最新一代HBM承诺提供一些非常非凡的功能。所有人都为新的内存带宽之王HBM3欢呼。
额外的资源:
留下回复