智能边缘的软硬件设计

在边缘添加智能比它最初看起来要困难得多，因为它需要理解在哪里处理什么，这是基于对什么的假设边缘随着时间的推移。

智能边缘的具体定义因人而异，但所有人都认为它远远超出了昨天简单的基于传感器的范畴物联网设备。智能边缘应用包括从自动驾驶汽车到无人机的任何东西5克基站，智能照明系统，自动化工厂。它们的共同点是连通性、分区和优化的数据处理，以及到目前为止几乎完全在数据中心完成的分析监督级别。

随着传感器生成的数据量不断膨胀，从收集数据的端点移动数据变得低效且昂贵。现在的挑战是如何划分处理，这需要在一个模糊描述为智能边缘的领域中，更接近数据来源的地方做出更多的决策。

“有很多不确定性，”Max Odendahl说Silexica．“每个人都在努力理解平台到底是什么，框架是什么，开发工具应该是什么。目前，悬而未决的问题比已解决的问题要多。”

这会影响一些基本的设计考虑因素，比如需要支持哪些中间件。“是ROS2还是Adaptive AUTOSAR，还是一切都是手动的?会是Linux吗?是QNX吗?答案是，‘以上都是，因为我们还不确定。’”

其目标是大幅减少来自需要更密集处理的传感器的数据量。但这在边缘产生了问题，在那里，功率和处理性能是有限的，特别是当人工智能/机器学习加入到混合物中。

公司首席执行官Raik Brinkman表示:“当你构建系统时，有很多事情需要考虑OneSpin解决方案．“无论是在硬件还是软件上，都是一样的，但挑战在于如何跟踪数据。没有什么是固定的，当您获得新数据时，您可能会发现有差距，必须重新培训系统。数据有多层。使用机器学习，你需要重新计算所有东西。这是一项很大的管理任务。人们没有意识到这一切的复杂性。他们很高兴它能起作用。”

系统级的挑战
我们需要的是一种方法来从可能随着时间的推移而有用的数据中挑选出关键数据，以及一种方法来丢弃被认为不相关的数据。例如，汽车上的摄像头可能会产生大量的数据，但没有理由保留其中的绝大部分，因为它与车辆的运行无关。

该公司首席技术专家Joao Geada表示:“如果你能做足够的预处理，那么你必须发回物联网云的数据就不会那么大。有限元分析软件．“所以对于任何流程来说，数据量都不是很大。如果你想想语音识别，那是在一台电脑上完成的。所以这个设计是内窄，中宽，后窄。但为了适应这种架构，你必须从一开始就重新思考。”

那么从哪里开始设计这些系统呢?根据Odendahl的说法，它始于开发人员工具和操作系统，以及中间件和平台。“最后，它回到了系统层面。对并发软件有深刻的见解是非常有用的。因为在边缘，它甚至不是Open CL或Cuda;它是C和c++，我们想为源代码构建一个“谷歌地球”，其中有很多不同的级别。您可以从一个高级的概述开始，但是能够向下钻取并寻找根源，追溯到源代码。这实际上是关于执行分析，其中有追溯到原始源代码的可追溯性。抽象级别越高，您在源代码中编写的内容与您希望理解的内容与您在概要文件或跟踪中看到的内容之间的差异就越大。这种差距会越来越大。”

尽管智能边缘应用程序是特定的，但它们也必须随着时间的推移而适应。这就要求在尽可能高的水平上发展。

“与此同时，你想要挤出性能，所以你必须针对目标设备，”他说。“这是一个有趣的困境，因为我们的客户着眼于未来，他们有特定的硬件实现，将从头开始一遍又一遍，所以他们想从超高的级别开始——例如c++——并在系统级或架构级进行优化。然后，只有在最后，他们才会优化那些真正有意义的部分。有许多公司真的想改变他们目前的做法，但这需要一段时间，因为当他们需要表现的时候，他们又会落入陷阱。他们回到最初的策略，‘让我们弄清楚系统级和架构级。’他们可能只是做了错误的事情，因为他们实际上没有在系统层面上理解它。”

实现这一转变需要改变思维方式，而且这种思维方式越来越多地适用于过去不为人知的技术。例如，工程组织内部有很多活动，将智能添加到极端边缘的传感器中。

公司的产品营销经理杰夫·米勒(Jeff Miller)说:“过去有一个专门的处理器，它可以从传感器读取专用的模拟数字转换器，并在那里完成所有的处理Mentor是西门子旗下的企业．“现在在智能传感器中，模拟到数字转换，模拟滤波——所有这些事情都开始发生在传感器的一个配套芯片上，但仍然都在同一个封装中。除此之外，嵌入式处理器也被放置在那里，以运行传感器融合或算法等软件，以预处理实际上运行在你所认为的传感器芯片内部的信号数据，特别是可能在同一芯片中内置多个传感器的设备。”

在规模较大的嵌入式系统中，通常仍有一个处理器执行处理和管理通信接口。米勒说:“软件在这些设备中存在于多个层面——在单个微控制器的传感器中或在应用处理器中，当然还有在云中。”他说:“现在的软件一直存在于整个堆栈中，而在不久之前还不是这样。嵌入式系统的一个组件中有软件，但现在有多个，还有云层、网关层以及所有这些其他领域。管理所有这些软件的复杂性是一个挑战，但拥有这种可编程能力也有一些巨大的好处。”

最大的好处是灵活性，这在edge这样的新兴技术领域至关重要。“如果你以后可以加载新软件，你可以添加新功能，你可以修复错误。这方面对安全尤其重要，因为如果你的功能是固定的，有人发现了漏洞，你就必须更换硬件。如果你有可编程性，那么你就可以开发新的代码来进行现场更新并关闭这些漏洞。当你试图建立和维护一个安全的系统时，拥有这种灵活性是绝对关键的，”他说。

这种可编程性是内置在硬件中的，因此，与其构建一个固定功能的处理器来处理数据并产生结果，不如构建一个嵌入式处理器，例如eFPGA，可增加DSP或微控制器核心。可以内置这些现成的解决方案传感器芯片本身，以获得可编程性，这在设计将要运行的算法时提供了更多的灵活性。此外，为CPU编写的软件可以在工作台上进行测试，这允许更多的灵活性和可升级性。

在设计传感器方面有很多专业知识的工程团队可能会有微机电系统设计师和物理学家，这才是他们真正关注的。“然后他们有了一个模拟团队，现在他们正在研究如何将他们的产品提升到一个新的水平，使其成为智能传感器，而不仅仅是一个高质量的传感器。通常他们会考虑在芯片上实现数字化，在芯片上实现处理器。关键是结合知识产权因为要制造智能传感器，并不需要成为处理器实现方面的专家。现在有很多很棒的IP可供选择。只要去买一个，并组装必要的IP组合来构建这个系统。了解成本和收益也很重要。在试图理解这个等式的过程中，这对他们来说是否有意义，当他们真正坐下来计算这些数字时，他们会非常惊讶。最让人惊讶的数字是整合这些东西所产生的强大影响。在一个石油和天然气行业的案例研究中，他们采用了一种使用离散组件的设计，并将其组装成一个定制的SoC，用于他们的应用，并将他们的电力预算削减了70%。”

不同的工具和方法
因为这是一个新的领域，有很多可能性，所以有必要做更多的实验来找出最好的方法。这需要更高的水平抽象，这是主要原因高级合成在经过多年的炒作后，最近受到了如此多的关注。

使HLS如此有用的是，硬件和软件都可以用C语言指定，这允许硬件和软件工程师使用相同的工具。

“这才是真正的诀窍，”米勒说。“这些都是高度定制的应用程序。通过根据您想要进入的特定市场定制和定制物联网边缘设备，您可以节省这些费用。你通常有非常激进的目标，不仅在功率和性能方面，而且在成本和处理这些事情的能力、安全性和所有这些进入这些系统的其他方面。因此，工程团队被拉伸到极限，试图实施这些极其复杂的系统，并实施其中许多系统，以瞄准不同的市场。因此，能够利用高级语言，特别是你正在编写的软件通用的高级语言来利用所有这些功能，这个想法真的非常强大。”

随着5G开发活动与智能优势的紧密结合，挑战在于更深入地理解硬件和软件之间的关系和相互作用。这对边缘和云之间的数据处理分区有直接影响。

图1:边缘日益复杂的设计挑战。来源:节奏

该公司负责产品管理和营销的高级集团总监Frank Schirrmeister说:“这些设备有超低延迟的一面，并且有后端处理，以确保数据实际上在边缘可用，并可以在边缘进行计算。节奏．“这种平衡——你在设备上做多少计算，在这里做多少计算，在数据中心做多少计算——这才是真正的系统级挑战。”

这是一个更大的系统级问题，因为它远远超出了边缘设备的范围。Schirrmeister说:“你必须在保持所有数据管理的同时，与设备进行低延迟的互连。”“这看起来非常类似于视频托管的一些挑战，以获得最佳带宽，从硬件-软件的角度来看，你需要考虑到系统级的挑战，即平衡设备、强大的计算或服务器中的后端计算的超低延迟。这是关键的挑战，也是需要解决的系统层面的挑战。其余的都是关于低功率。你如何设计天线，你如何确保你以正确的方式获得数据?最大的变化实际上是平衡低延迟和主干的系统级挑战。”

这也对确保硬件和软件正常工作所需的工具类型产生直接影响。硬件部门总经理Zibi Zalewski说:“硬件通常是与软件断章取义的，反之亦然。Aldec．“例如，软件工程师在硬件模型上进行验证，这些模型可能非常昂贵，而且运行速度很慢。”

这就是为什么混合协同仿真最近引起了人们的兴趣。它可以解决硬件和软件工程师在合作验证各自设计部分时面临的主要问题。

在智能边缘快速发展的硬件/软件开发环境中，随着垂直开发的各个部分在标准上达成共识，许多技术方法可能共存。在一天结束的时候，真正重要的是完成设计，验证，并在现场实施。

-Ed Sperling对本文也有贡献。

有关的故事
面向边缘设计
数据的增长催生了更多的选择，但到目前为止，还不清楚哪一个会胜出。
数据混乱的边缘
处理器和数据类型的差异将对人工智能系统产生不可预测的影响。
边缘计算知识中心
头条新闻，视频，白皮书，边缘博客
分区变得更加困难
爆炸门数量、多个领域和硬件/软件内容使得验证设计将按计划工作变得更加困难。