加州大学洛杉矶分校研究人员撰写的题为“模拟内存计算推理引擎的准确性和弹性”的技术论文。
摘要
“最近，基于新兴模拟非易失性存储器(NVM)技术的模拟内存计算(CIM)架构已被用于深度神经网络(dnn)，以提高可扩展性、速度和能源效率。然而，这样的架构利用电荷守恒，具有无限分辨率的操作，因此容易出错。因此，任何用于执行dnn的模拟NVM中固有的随机性都会影响性能。一些报告已经在有限的范围内演示了模拟NVM对CIM的使用。目前尚不清楚计算中的不确定性是否会禁止大规模dnn。为了探讨可扩展性这一关键问题，本文首先提出了一个基于CIM架构和模拟NVM的大规模dnn可行性的仿真框架。仿真结果表明，针对高精度数字计算引擎训练的dnn对模拟NVM设备的不确定性没有弹性。为了避免这种灾难性的失败，本文引入了DNN的模拟双尺度表示，以及hessian感知的随机梯度下降训练算法，以提高训练DNN的推理精度。由于这种增强，用于CIFAR-100图像识别问题的Wide ResNets等dnn被证明在精度方面有显著的性能改进，而不会增加推理硬件的成本。”
找到开放获取这里是技术文件．2022年3月出版。
ACM计算系统新兴技术杂志，第18卷，第2期，2022年4月，文章编号:: 33, pp 1-23, https://doi.org/10.1145/3502721
万哲，王天义，周一鸣，Subramanian S. Iyer, Vwani P. Roychowdhury
参观半导体工程技术论文库并发现更多芯片行业的学术论文。
留下回复