中文 英语

作者最新文章


边缘AI推理的挑战


将卷积神经网络(cnn)引入您的行业——无论是医疗成像、机器人还是其他一些视觉应用程序——都有可能实现新功能,并减少现有工作负载的计算需求。这是因为单个CNN可以取代计算成本更高的图像处理、去噪和目标检测算法。Howev……»阅读更多

为什么可重构性对AI边缘推断吞吐量至关重要


为了让神经网络以最快的速度运行,底层硬件必须在所有层上高效运行。通过对任何cnn的推断(无论是基于YOLO、ResNet还是初始化),工作负载都有规律地从内存瓶颈转移到计算资源瓶颈。您可以将每个卷积层视为其自己的迷你工作负载,因此……»阅读更多

最大化边缘AI性能


卷积神经网络模型的推断在算法上很简单,但是为了让应用程序获得最快的性能,在部署时要记住一些陷阱。许多因素使有效的推断变得困难,我们将在深入研究具体的解决方案之前先了解这些因素。看完这篇文章,你将会……»阅读更多

卷积神经网络加速器的性能度量


在整个行业中,客户和潜在终端用户可以使用很少的基准来评估端到端的推理加速解决方案。在这个领域的早期,加速器的性能是用一个数字来衡量的:TOPs。然而,使用单个数字的局限性在以前的博客中已经详细介绍过了。然而,如果计算方法…»阅读更多

Baidu