中文 英语
首页
技术论文

异构mpsoc上动态神经网络的节能执行方案

受欢迎程度

LAMIH/UMR CNRS、上法兰西理工大学和加州大学欧文分校的研究人员发表了一篇题为“映射与征服:动态神经网络到异构mpsoc的节能映射”的技术论文(预印本)。

摘要
“异构mpsoc由不同计算能力的不同处理单元组成。迄今为止,神经网络(NNs)到此类系统的映射策略尚未充分利用处理并行性的全部潜力,这是通过内在的NNs结构和底层硬件组成实现的。在本文中,我们提出了一种新的框架,可以有效地将nn映射到异构mpsoc上,使它们能够利用底层处理并发性。具体来说,我们的方法沿着神经网络的“宽度”维度确定了一个最佳的神经网络分区方案,这有助于将并发神经网络块部署到不同的硬件计算单元上。此外,我们的方法提供了一种新的方案,将分区神经网络部署到MPSoC上,作为动态多出口网络,以获得额外的性能收益。我们在标准MPSoC平台上的实验已经产生了动态映射配置,比仅gpu映射的节能2.1倍,而比仅dla映射的延迟减少1.7倍。”

找到技术纸在这里.2023年2月出版(预印本)。

布兹迪,H., Odema, M., Ouarnoughi, H., Niar, S., & Faruque, m.a.(2023)。映射与征服:动态神经网络到异构mpsoc的高效映射。arXiv预印arXiv:2302.12926。



留下回复


(注:此名称将公开显示)

Baidu