中文 英语
18.luck新利
的意见

加速AI /毫升GDDR6 DRAM的推论

相同的方面,使GDDR适合要求3 d图形推理可以提高优势,。

受欢迎程度

图形的起源双倍数据速率(GDDR)内存可以追溯到3 d游戏的崛起在个人电脑和游戏机。第一个图形处理单元(GPU)包装单数据率(SDR)和双数据速率(DDR) DRAM -用于CPU内存相同的解决方案。随着游戏的发展,在更高的分辨率更高的帧速率的需求推动了graphics-workload特定内存解决方案的必要性。

最终,游戏电脑和游戏机的成功做了一个特定于应用程序的图形内存商业上可行。2003年,英伟达发起的GeForce 5700年外汇超是建立在130纳米硅工艺和GDDR2 DRAM的搭配256 mb。应该注意的是,大多数的5000系列的第五代GeForce gpu)仍然使用DDR DRAM内存。直到2018年底,GDDR部署在整个GPU产品线。在这15年,GDDR容量增加了超过40 x 11 gb的内存用于高端GeForce RTX 2080 Ti。每个设备的带宽增加了8倍GDDR2 GDDR6,总内存带宽从29每秒字节(GB / s)在5700年外汇超616 GB / s的RTX 2080 Ti。

今天,GDDR6是一种先进的图形内存解决方案性能演示了18 GB每秒(Gbps)和每个设备的带宽72 GB / s。GDDR6 DRAM雇佣了一个32位宽界面由两个完全独立的16位频道。对于每一个频道,写或读内存访问256位或32个字节。parallel-to-serial转换器将每256位数据包转换为16个16位数据字通道16位数据总线传输顺序。由于这16 n预取,内部数组周期1 ns = 16 Gbps的数据速率。

人工智能和机器学习(AI /毫升)应用程序共享相同的原始渴望带宽的3 d游戏。培训,内存带宽和容量是尤其重要的由于神经网络的规模和复杂性不断增加,平均每年的10倍。神经网络精度取决于质量和数量的例子在大型训练数据集。GDDR6性能和成本优势将使迁移的训练网络的边缘。

推理、内存吞吐量速度和低延迟是至关重要的,特别是当实时行动是必要的。这是因为一个推理引擎可能需要处理一个广泛的同时输入。例如,自主车辆必须处理视觉、激光雷达、雷达、超声波、惯性和卫星导航数据。随着推测越来越AI-powered端点,需要manufacturing-proven内存解决方案是至关重要的。与可靠性证明在数以百万计的设备,高效的成本,和杰出的带宽和延迟性能,GDDR6内存AI /毫升推论是一个很好的选择。

设计性能和功率效率,Rambus GDDR6内存子系统支持高带宽,低延迟的要求AI /毫升为培训和推理。它由一个co-verified PHY和数字控制器提供一个完整的GDDR6内存子系统。Rambus GDDR6接口是完全符合电平GDDR6 JESD250标准,支持多达16 Gbps /销。GDDR6接口支持2频道,每个都有16位数据宽度的32位。在16 Gbps /销,Rambus GDDR6接口提供的带宽64 GB / s。

Rambus作品直接与客户建立一个优化的芯片布局提供完整系统的信号和电源完整性(SI / PI)分析。客户收到一个硬宏观与测试软件的全套解决方案快速开机,表征和调试。Rambus还支持客户板和包装设计,设计系统时非常重要的16 gbps。

AI /毫升应用程序继续以闪电速度变化。培训能力,每年增加10倍的速度,推动专业的人工智能发展的加速器。与此同时,人工智能推理能力部署在网络边缘和广泛的物联网设备,以及汽车/ ADAS应用程序。正如上面所讨论的,培训和推理有独特的应用程序需求,GDDR6 AI /毫升推理作为一个优秀的选择。设计师可以利用的所有好处GDDR6记忆的AI加速器soc Rambus的高性能存储器接口的解决方案。

额外的资源:



留下一个回复


(注意:这个名字会显示公开)

Baidu