训练和部署CNN解决方案时的常见陷阱，以及如何避免它们。
将卷积神经网络(cnn)引入您的行业——无论是医疗成像、机器人还是其他一些视觉应用程序——都有可能实现新功能，并减少现有工作负载的计算需求。这是因为单个CNN可以取代计算成本更高的图像处理、去噪和目标检测算法。然而，在我们与客户互动的经验中，我们看到了同样的挑战和困难，因为他们将一个想法从概念转化为产品。在本文中，我们将回顾常见的挑战，并解决一些可以在边缘AI应用程序中平滑开发和部署CNN模型的解决方案。
我们看到很多公司试图从头开始创建模型。但是，几乎每个应用程序都已经有了现有的模型，因此与其重新发明轮子，不如从基于这些体系结构之一的网络开始通常要容易得多。此外，从一个已知的模型开始将减少为应用程序训练模型的时间、数据和精力，因为可以在一个称为“迁移学习”的过程中重新训练现有模型。“例如，与其试图定义自己的姿势估计网络，不如从OpenPose模型开始，从那里开始处理你需要识别的姿势数据。同样，如果您试图执行对象检测，YOLOv3等解决方案提供了一种计算简单而直接的方法，可以在对数据集进行重新训练后完成工作。
对于大多数应用程序，事实是您不需要最新最好的CNN体系结构。例如，如果您的应用程序只需要非常确定地检测几个不同对象之间的差异，那么即使是YOLOv3 unaugmented这样的简单检测器也可以完成您需要它完成的任务。同样，如果超分辨率或图像去噪是你的最终目标，你可能只需要一个10层网络，每层过滤器少于64个。一旦客户意识到他们的应用程序可以用比前沿研究简单得多的模型来解决计算复杂性的一小部分，他们就会受益匪浅。我们的目标是不让向cnn的迁移变得更加困难。
量化一个模型从多字节精度(如FP32或BF16)到单字节可以成倍提高推理速度，而精度几乎没有下降。然而，许多客户在量化他们的模型时遇到了麻烦，因为它在训练和模型创建过程中增加了步骤，这可能很难实现。例如，PyTorch和ONNX等框架公开了它们自己的量化模型的方法，但它们并不总是彼此兼容。Flex Logix已经帮助客户导航不同的量化选项(例如，静态、动态、训练感知)。主要的收获是，您应该与您的方法保持一致，并从开发模型的一开始就以量化为目标。
大多数客户在尝试将cnn引入他们的行业时都会遇到同样的问题，但Flex Logix可以帮助缓解过渡并释放应用程序中AI的潜力。使用已有的模型，为应用程序优化模型，并尽早量化工作负载将帮助您运行应用程序，并为客户交付额外的价值。
|
|
|
|
|
|
|
|
留下回复