中文 英语

作者最新文章


使用HBM3提升Zettabyte时代的数据中心内存性能


我们生活在泽字节(Zettabyte)时代,这个术语最初是由思科(Cisco)提出的。世界上大部分数据都是在过去几年里创造出来的,而且在短时间内不会放缓。数据已经变得不只是大,而是巨大!事实上,根据IDC全球数据圈2022-2026年预测,未来5年产生的数据量将至少是过去10年产生的数据量的2倍。»阅读更多

GDDR6内存支持高性能AI/ML推断


推理模型的规模和复杂性的迅速增长,使得在网络边缘和端点设备上部署越来越强大的硬件成为必要。为了让这些推断处理器和加速器能够获得数据,需要提供极高带宽的最先进的内存。这篇博客将探讨GDDR6如何支持artif的内存和性能要求。»阅读更多

高性能SerDes启用5G无线边缘


全球互联网的核心投资正处于火热状态。到2021年底,全球超大规模数据中心的数量跃升至700个,还有300多个正在筹备中,到20241年应该会增加到1000多个。在五年的时间里,超大规模数据中心的总数将翻一番。随着原始数据的激增,更强大的计算和网络硬件正在迅速部署,……»阅读更多

官方消息:HBM3戴上了带宽之王的王冠


随着HBM3更新到高带宽内存(HBM)标准的发布,一个新的带宽之王被加冕。高级工作负载的狂热性能需求,以及AI/ML训练的领先地位,推动了对更快交付比特的需求。内存带宽是计算性能的关键推动者,因此需要加速HBM3标准的发展。»阅读更多

在通往更高内存带宽的路上


自HBM首次宣布以来的十年里,我们已经看到了两代半的标准进入市场。HBM的“宽而慢”架构首次在1024位宽接口上运行,数据速率为每秒1千兆比特(Gbps)。该数据速率和该接口宽度的乘积提供了每秒128 GB (GB/s)的带宽。2016年,HBM2的数量翻了一番。»阅读更多

领先的GDDR6内存


随着数据流量的加速增长,超大规模数据中心的数量不断飙升也就不足为奇了。Synergy Research Group的分析师表示,在9个月内(20年第二季度至21年第一季度),有84个新的超大规模数据中心上线,使全球数据中心总数达到625个。超规模资本支出在过去四个季度创下了1500亿美元的记录,超过了……»阅读更多

GDDR6 DRAM加速AI/ML推理


图形双数据速率(GDDR)内存的起源可以追溯到pc和主机上3D游戏的兴起。最早的图形处理单元(GPU)包含单数据速率(SDR)和双数据速率(DDR) DRAM -与CPU主存使用的解决方案相同。随着游戏的发展,对更高帧率和更高分辨率的需求推动了对特定于图像工作负载的我的需求……»阅读更多

HBM2E提高了AI/ML训练的门槛


最大的AI/ML神经网络训练模型现在超过了1000亿个参数。在过去的十年里,模型以每年10倍的速度增长,在不久的将来,我们将拥有万亿参数模型。鉴于AI/ML可以产生的巨大价值(它对世界上六家市值最高的公司中的五家来说是至关重要的任务),已经有……»阅读更多

GDDR6记忆的边缘生活


随着数据流量的快速增长,超大规模数据中心的数量迅速增长也就不足为奇了。据Synergy Research Group的分析师称,今年7月,全球有541个超大规模数据中心。这一数字自2015年以来翻了一番。更令人惊讶的是,还有176个项目正在筹备中,所以超规模的快速增长……»阅读更多

利用HBM2E内存扩展AI/ML训练性能


在我4月份的半工程低功耗新利体育下载注册高性能博客中,我写道:“今天,AI/ML神经网络训练模型可以超过100亿个参数,很快就会超过1000亿个。“很快”没过多久就到了。5月底,OpenAI公布了一个新的1750亿参数的GPT-3语言模型。这意味着GPT-2的15亿参数的大小超过了100倍。»阅读更多

←老帖子
Baidu