快速:AI加速器超低精度训练和推理


抽象——“日益增长的患病率和计算要求人工智能(AI)工作负载导致广泛使用硬件加速器的执行。扩展跨代AI加速器的性能是关键的成功的商业部署。人工智能工作负载的固有error-resilient性质呈现出独特的性能/能源的机会我…»阅读更多

边缘AI推理的挑战


将卷积神经网络(cnn)行业是否它是医学成像,机器人或其他视觉应用entirely-has可能使新功能,减少现有工作负载的计算要求。这是因为一个CNN可以取代更多的计算上开销很高的图像处理、去噪、目标检测算法。Howev……»阅读更多

挑战芯片开发一种新的推论


程,软件和工程的高级副总裁和创始人之一Flex Logix,坐下来与半导体工程解释为市场带来一个推论加速器芯片的过程,从启动、编程和分区涉及速度和定制的权衡。SE:推测边缘芯片只是开始进入市场。di什么挑战……»阅读更多

人工智能建筑注意事项


定制芯片,贴上人工智能(AI)或机器学习(ML),每周出现,每个自称是10倍的速度比现有设备或使用1/10的力量。这是否足以取代现有的体系结构,如gpu和fpga,或者他们是否会生存与架构还不清楚。或机会,问题是t…»阅读更多

为什么对AI推理边缘吞吐量重构性是至关重要的


一个神经网络运行速度最快,底层硬件必须所有层上高效运行。通过任何CNN-whether的推理是基于一个架构如YOLO,意思ResNet或定期创建工作负载从被内存瓶颈转移到被计算资源瓶颈。你能想到的每一个卷积层作为自己的mini-workload,所以……»阅读更多

应用程序,挑战在晶圆厂使用人工智能


专家们表:半导体工程坐下来讨论芯片扩展,晶体管,新的架构,与Jerry Chen和包装,全球业务发展制造业和工业主管Nvidia;计算产品的副总裁大卫•油炸林研究;营销副总裁Mark Shirey说,和应用程序在心理契约;和阿基》d2的首席执行官。Wh……»阅读更多

最大化边缘AI性能


卷积神经网络模型的推理算法简单,但要获得最快的性能为您的应用程序有几个陷阱部署时要牢记。很多因素使高效的推理困难,我们将第一步通过之前进入特定的解决和解决。通过本文的结尾,您将手臂……»阅读更多

最好的人工智能推理的基准


当评估一个AI加速器的性能,有一个可用的方法。在本文中,我们将讨论一些不同的结构基准的方法研究在推进一项评估,直接运行您自己的模型。就像买汽车时,研究只会让你到目前为止在你需要开车,给你……»阅读更多

利用专门的神经网络模型更大的效率收益


神经网络可分为一组算法模拟松散人脑后,可以通过将新数据“学习”。事实上,许多好处可以从开发专用”计算高效的神经网络模型。然而,为了确保您的模型是有效的,有几个需要考虑的关键要求。一个关键,标本……»阅读更多

边缘推理应用和市场细分


直到最近,大多数人工智能数据中心/云,大部分是培训。事情正在改变很快。预测AI销售快速增长将数百亿美元到2020年代中期,大部分增长的边缘AI推理。数据中心/云与边缘推理:有什么区别吗?在数据中心/云推理开始工作站。增加效率,更…»阅读更多

←旧的文章 新帖子→
Baidu