中文 英语
首页
技术论文

基于交叉杆结构的可扩展光学人工智能加速器

受欢迎程度

华盛顿大学的研究人员发表了一篇名为“使用PCM进行AI加速的可伸缩相干光交叉条架构”的新技术论文。

文摘:
“光学计算最近被提出作为一种新的计算范式,以满足数据中心和超级计算机中未来AI/ML工作负载的需求。然而,到目前为止,提议的实现存在以下问题:缺乏可伸缩性、占地面积大、功耗高、系统级架构不完整,无法集成到现有的数据中心架构中用于实际应用程序。在这项工作中,我们提出了一个真正可扩展的基于交叉杆架构的光学AI加速器。我们已经考虑了所有主要的障碍,并在这个设计中解决了它们。重量将使用相变材料(PCM)存储在芯片上,这种材料可以单片集成在硅光子过程中。所有光电元件和电路块都是基于45nm单片硅光子工艺中测量的性能指标建模的,该工艺可以与先进的CPU/ gpu和HBM存储器共同封装。我们还介绍了Resnet-50V1.5芯片性能的系统级建模和分析,考虑到所有关键参数,包括内存大小、阵列大小、光子损失和外围电子设备的能量消耗。该模型同时考虑了片内SRAM和片外DRAM的能量开销。我们还讨论了如何使用双核交叉条设计来消除实际SRAM块大小和批处理大小的编程时间开销。我们的结果表明,128 x 128的建议架构可以实现与Nvidia A100 GPU类似的每秒推理(IPS),功耗低15.4倍,面积低7.24倍。”

找到这里是技术文件。2022年10月出版。

v1 arXiv: 2210.10851。作者:Daniel Sturm, Sajjad Moazeni。



留下回复


(注:此名称将公开显示)

Baidu