矛盾的要求在边缘

美国半导体工程公司(Semiconductor Engineering)工业和医疗保健业务部门董事总经理Jeff DeAngelis坐下来定义了这种优势将会是什么样子马克西姆集成；的首席技术专家Norman Chang有限元分析软件；公司人工智能高级总监Andrew Grant说想象力的技术；Thomas Ensergueix，公司汽车和物联网业务线高级总监手臂；Vinay Mehta，推理技术营销经理Flex Logix；以及John Sanguinetti, Adapt的首席技术官。以下是那次谈话的节选。(第二部分可以在这里找到）.

SE:边缘是一个定义不清的过渡领域，但人们普遍认为，这对整个半导体行业来说将是一个巨大的机会。你认为边缘在哪里，前面有什么样的问题?

Ensergueix:在Arm，我们倾向于谈论终点。的边缘从连接到端点的第一个网关一直到云。每个公司都有自己的定义，但重要的是我们如何添加可扩展的智能，如何将工作负载转移到这里，以及如何添加从节点到云的端到端安全性。有一个问题，什么是最好的方法来释放所有这些计算能力，现在这些计算能力以最佳的方式分布在节点或边缘。网桥和交换机已经被新的边缘服务器所取代。你们可以看到5克基站和网关。他们可以在数据平面和元数据内部进行推理、训练和数据分析。我们不需要把所有东西都送回云端。在接近数据产生的地方，我们可以做很多事情。在未来几年，跨边缘的可扩展网络将成为关键。

格兰特:我们倾向于认为这是一个非常流动的景观，当我们讨论这个问题时，边缘的硬定义通常是没有帮助的。如果你从终端设备或终点的角度来考虑，它是在自动驾驶汽车中还是ADAS手机、监控或智能摄像头。它的位置非常重要，它被要求服务的目的也很重要。在终端设备上会运行什么，你能适当地加速它以达到你真正需要的性能吗?这真的是一个令人兴奋和充满挑战的时代，因为事情每天都在变化。此外，大学里正在开发的很多东西即将受到冲击。

DeAngelis:边缘是机器或设备与现实世界相遇的地方。它是你理解周围模拟和数字世界的能力，并将其带入网络进行处理。挑战和机遇的关键领域是影响我们推向市场的半导体器件类型，使这些器件能够提供高水平的诊断能力或实时信息。这很重要，因为随着我们改善在边缘收集的实时信息，这使得人工智能算法能够做出更好的决策。这才是关键。它提供了更高级别的算法，以便能够在飞行中做出决策。我们需要有能力调整生产车间的网络，例如，生产不同种类的产品。所以，如果你想想COVID-19，很多公司都想改变他们的产品线，以解决不同的产品生产，但这很难做到。

梅塔:在本地处理数据还是在云端处理数据之间总是有一个权衡。在云中使用更高利用率的资源(比如将GPU放入数据中心并每60秒查询一次)，还是在家中进行处理(例如，该资源90%的生命周期都处于空闲状态)更便宜?与此同时，在内存和计算之间来回移动，其中一个是瓶颈。在边缘你有车库门打开器或机器人真空吸尘器，基本上物联网设备。在这一点上，他们并不聪明，但你可以开始看到增加智力的价值所在。从树莓派上的Arm微处理器到给我的植物浇水，再到坐在汽车后面生成决策树的800瓦2tb服务器。你必须权衡一下，如果你有5G通信和非常低的延迟，成本会是多少。退一步说，有一个边缘扩张的泡沫，一个网络扩张的泡沫，所有这些都影响了我们在本地做的事情。

Sanguinetti边缘是数字世界和模拟世界之间的接口。这就是它的定义。该接口可能收集信息，如传感器，或改变某些东西，如执行器。边缘设备是允许对象成为互联网公民的实体。在过去，互联网公民都是人。现在有很多类型的互联网公民。其中一个有趣的方面是工业物联网．所以在你的房子周围有摄像头门铃和各种各样的安全设备，这些是边缘设备的一类。但有趣的是工业物联网，你可能有成千上万的设备在一个领域。有这样一个例子，在进行地质调查时，在一大片区域内每隔几米就设置炸药。有成千上万的设备在收集数据，并试图将数据返回到某个中心空间进行处理。有了这些大型设备，就有成千上万的设备协同工作。

常:这里最大的挑战是试图将智能注入到边缘设备中，在过去的两三年里已经有很多努力，比如TinyML社区。这与传统的物联网或工业物联网设备不同。你想要启用本地智能，因为当你从环境或制造工厂车间，甚至你体内的传感器获得大量数据时，你无法将所有这些数据发送到云中的服务器。现在的问题是我们如何正确地过滤数据。如果我使用微软邮件，它会过滤掉很多不相关的电子邮件，但我仍然可以找到一两封相关的电子邮件。对于边缘设备也是一样的。你不希望看到重要数据丢失在传感器中。边缘智能设备的另一个特点是低功耗。如果你看看之前的物联网和工业物联网设备，功率要求相当高。有了TinyML或edge的新设备，人们正在考虑使用微焦耳或皮焦耳进行操作。 Also, these devices are asleep most of the time. You need to be able to wake up a processor, which is different from a CPU or GPU. You want to have a very low power device wake up when it needs to. You also want it to be autonomous, which may require energy harvesting because if you can harvest energy from the environment it can survive for a very long time — even on Mars. Some of these devices will need to survive longer than 10 or 15 years. Digital circuits have to be optimized. Analog circuits need to run in the sub-threshold region. And it needs to be secure. You need to secure the information, so you need to have a co-processor for security that is always on. Also, if you’re looking at vehicle-to-vehicle devices, latency has to be extremely short for handling local intelligence and avoiding traffic. We also need to figure out what are the killer applications.

SE:因为有如此多的变化和迭代，几乎所有的东西都是独特的设计。有不同的应用程序、电源需求，两个边缘设备可能位于端点和云之间的不同位置。我们如何设计本质上是定制或半定制的芯片，同时又能在所有这些不同的限制条件下工作?

格兰特这就是我们今天面临的挑战。如何构建尽可能模块化和可配置，但又尽可能简单的东西?我们做嵌入式神经网络人们总是在想它会如何在我的SoC．你试图给他们尽可能多的灵活性，但有很多客户——这取决于他们在世界上的哪个地方——他们想要一些他们可以随便去看看的产品。在ADAS级别上，使用一个或多个LEGO设备作为多实例、多核的构建块非常重要。但如果你是在非常小的水平上，你想要低于1的TOPS性能和非常非常低的功耗，这就开启了另一组挑战。到目前为止，我们所看到的解决这个问题的唯一方法是设计，这样你就可以扩大和缩小规模，这也增加了一系列挑战。

DeAngelis这是一个挑战——你如何创造出足够灵活的东西来调整和反应。我们很幸运，有一些技术可以让我们做到这一点。如果你看看智能传感器，有一些新型技术，比如IO-Link，它有一个非常常见的接口。你可以把它想象成一个工业界面。你基本上是在这个设备上加载一个堆栈，允许你动态地自定义它。所以它不仅仅是一个读取信息的愚蠢传感器。你实际上可以与传感器对话并重新配置它。但这整个概念需要一种新的思维方式，而这正是我们所关注的。这包括软件可配置I/ o之类的东西。这使您可以灵活地调整尺寸和接口，以适应生产线系统的扩展。 We’re integrating additional types of flexibility into the ICs that allow you to have that kind of interface. On the actuator side, these devices are becoming sophisticated enough to allow them to auto-tune. So you drop it into a system and it will adjust itself — based on the time of day and the application it’s sitting in — to optimize for whatever that person wants in throughput, efficiency, or optimal performance. This is here and it’s being used today.

Sanguinetti:在这个领域，没有太多的杀手级应用程序，你知道你可以在这个应用领域销售1亿台设备。我们现在真正处在一个试验期。人们有无数关于如何解决边缘问题的想法，这些问题以前从未被解决过，甚至从未被认识到。但是为了让这些东西实用，它们必须便宜。例如，如果你试图在每个停车场部署几千个传感器，你就负担不起每个100美元的设备。你需要一个围绕一两个芯片构建的设备，而不是一个300美元的FPGA或其他复杂的设备。为了做你的实验，如果你必须做一个自定义SoC，这是一个问题。作为设备供应商，我们需要能够解决这个问题。最终，我们必须弄清楚如何更快、更便宜地制造定制soc。

Ensergueix:如果我们考虑的是数十亿或数百亿的设备，成本就非常重要。我们一直专注于如何在具有ai功能的小型微控制器中启用高密度计算，以及非常小的npu。这将是1美元到5美元的任何地方在终点，有保障和安全。安全非常重要。这些需要是自主的。他们需要自己做决定。因此，将会有更多的节点可以采取行动，它们将需要内置安全性和安全性。如果您在节点中完成所有计算，并且只向网关或其他计算基础设施发送摘要，那么您可以将原始数据保留在节点上。我们做了一项人工智能调查，我们发现四分之三的终端用户更愿意将数据保留在他们的设备上，而不是离开设备。这绝对是一个关键的优势。

Sanguinetti:您可以确定一些将是通用的或接近通用的功能。安全当然是其中之一。能源效率和无线连接也是如此。几乎所有的边缘设备都需要这些东西，所以我们可以做一个平台芯片来集成这些要求。这是一个很好的起点。这样，你就有机会制造小批量的实验设备。通过这种方式，您可以决定应用程序是否可扩展和工作，并证明是否值得投资。

常例如，如果你在一架飞机的机翼上安装了数千个传感器，这些传感器就需要非常可靠。不过，有一个问题是，如果你想在本地过滤一些数据，你需要在设备上进行硬件-软件配置。但是如何过滤掉一些异常数据呢?如果你在智能设备上做异常检测，但电路中有2000个热传感器，你需要考虑这2000个传感器的热偏置。您需要针对全局偏差调整传感器的预测值。然后，为了最小化全局偏差，以及最小化智能设备中预测值与最小值之间的差值，需要在智能设备的软硬件设计中考虑到这一点。我们使用的方法之一是采用多物理模型的数字双胞胎。您可以将其用于机器学习模型，因此它可以在不超过1秒的响应时间内立即运行。在机翼的例子中，这是一秒钟的响应时间，每秒钟都有一个读数返回。这就是你需要采取即时行动的时间。 Some action gets triggered, and some intelligence needs to be included for predictive value that’s different from the minimum value. That’s one of the new trends.

梅塔这个想法是，‘这是一个做决定的好地方，它需要在当地做出，以一定的成本和权力。“困难的部分是实验，以及我们可以花多少钱来实验构建一个定制SoC。这是目前的一个问题，因为你无法为所有这些应用程序构建一个有利可图的自定义SoC。让我们进一步回到消费领域，最顶尖的两款设备是Nest恒温器和树莓派。一个负责控制你的体温，它在一件事上做得很好。树莓派可以做任何事情，但本质上它只是一个开发平台。这两款产品的销量都达到了数百万。打造一款杀手级产品是有价值的，而这些东西是存在的。但也有一些很酷的产品，比如送货机器人，它们不会跌到这个价位。

相关的材料
构建智能系统的挑战
表中的专家第2部分:看看当今设备中的智能，以及它需要如何发展。
知识中心中的边缘计算
头条新闻，特别报道，视频，博客和白皮书
加速边缘计算
管理和处理数据的新方法以及比较数据的标准方法出现了。
AI边缘芯片的内存问题
内存中计算变得至关重要，但是在哪个内存中，在哪个进程节点上?
边缘在哪里?
如何最小化延迟和功率。