设计的优势

芯片和系统体系结构开始改变随着科技产业在本地处理需要处理更多的数据延迟,安全,隐私和安全原因。

智能的出现边缘是为了把原始数据从端点,提取数据,需要立即采取行动,和其他数据转发给各种本地、地区或商业云。基本的想法是优先考虑哪些数据,哪些数据应该被完全丢弃,哪些数据需要分析在更广泛的范围内使用更复杂的工具比本地可用。

”解决方案将从“轻量级”要求,看起来像的端点,而另一些人则会更加强大,像那些在云数据中心,发现“Steven哇,说的和杰出的发明家Rambus。

该计算模型的关键是一个更细粒度的方法来评估数据在任何时刻的价值。对于无人驾驶汽车,直接为避免事故和分析至关重要位置和交通流量来确定更好的路线。另一方面,初步分析患者如何应对某些医学治疗可能传递到云数据中心来分析世界各地的患者如何应对这些疗法并确定不同治疗方案的疗效。

在这个范围内的应用程序,将会有广泛的要求处理器和记忆。使定义边缘设备让独自设计他们更加困难。这将取决于执行的任务类型,Woo说。

许多这些操作需要一定程度的人工智能来决定处理,这将有很大区别。所需的人工智能计算边缘范围从0.5麦蒂(10¹²乘积累操作)在智能物联网产品,智能手机3麦蒂,5麦蒂增强/虚拟现实产品,10麦蒂监测,和麦蒂数十到数百汽车、高级产品营销团队主管Lazaar路易斯说节奏。这里,有几个技术受雇于处理器架构师降低功率,计算和外部存储器的两个主要贡献者。

“添加内部SRAM SoC允许处理器在存储器中存储数据,减少数据访问外部存储器,”路易斯说。“这有助于减少电力消耗的内存。稀疏的计算等新技术帮助提高性能和减少计算能力利用神经网络的固有的稀疏。此外,网络修剪有助于提高神经网络的稀疏以最小的损失精度。这允许处理器权衡计算能力可接受的推理精度损失。”

其他关键因素在设计智能边缘计算设备包括多少处理将在设备上完成,如连接传感器,传输的目标少云,拥有更多的自主权在边缘和拥有以云为中心的决策过程。

“假设你有一个连接的传感器装置,”杰夫•米勒说,产品营销经理导师,西门子业务。“自治是吗?自治如何呢?这里,通常成本平衡,你说,“如果我消耗更多的功率进行计算,我可以消耗更少的能量或更少的钱在传输数据备份到云上。然后我要更频繁地服务和更换电池。这是第一个轴试图找出多少处理需要做本地的总功率预算。”

第二个大问题是如何处理。“我要用专用的计算architectures-full定制逻辑实现的具体算法,我记住了,设备,或某种结构化的DSP, GPU处理器或专用机器学习,开始产生,只是一般的计算或嵌入式处理器可以运行和使用软件来定义行为吗?很明显,你可以得到更好的性能/瓦特与完整的自定义逻辑,但是有大量的设计工作,可以进入与CPU。它可以让你把所有的这些处理决定固件,您可以发布之后,”米勒说。

机器学习的一些处理器开发能够处理一系列应用程序。“如果你有一个ML算法,计算农场你训练它,您可以下载该模型可以更新模型以某种方式,给你同样的灵活性与固件,但应用的东西确实好多了在每瓦特性能指标后如果你的ML算法类型,”他说。

今天许多聪明的边缘计算设计是非常具体的。有高度优化的性能优势和权力。缺点是它只能做一件事非常好。但如果一个通用的设计不工作,更有针对性的解决方案可能是唯一的选择。

“这变化很多,”米勒说。“一切都是发生一次但当有足够的体积或足够的约束,这使人们让真正符合这一用例。”

非常新奇的应用领域会更有趣,但它也使它令人困惑,因为什么是边缘一个人可能不同于别人的边缘。

“在服务器设备、网络设备有很多创新,但这是一个相当明确的区域,”马克·格林伯格说,产品营销总监节奏。”的边缘,它仍然是未定义的,这就是为什么我们很难找到的定义边缘的位置。我们有很多高速数据链接,我们可以选择每一个4 k的视频相机到中央服务器上可能不是每一个人。你必须决定什么是权衡。多少我想在本地吗?多少数量呢我想发送到一个中央服务器?我有多少带宽,我该怎么做?我该怎么做贸易?正确的解决方案是什么,?本地处理的数据可能需要更少的能量比长途运输这些数据。 But those are still open questions in the industry.”

的首席执行官杰夫•泰特Flex Logix,定义了边缘不同。”的边缘,你可以有一个摄像头,这可能是一个监控摄像头,摄像头在你的机器人或你的机顶盒,处理一个图像。任何架构,使用大型批量的大小,以实现高吞吐量不合格的边缘。你应该能够做好一次处理一个图像,这也被称为批量大小= 1。在边缘设备,你必须个位数瓦。你不会把一个Nvidia Tesla T4卡在2000美元和75瓦到你的监控摄像头,因为过多的权力。但想做实时的优势。大量的检测和识别,和处理更大的图像更严格的模型,是什么让他们更好的预测精度。他们想要尽可能多的吞吐量或更少瓦的美元的预算。”

所有芯片的边缘会有一些相同的元素,泰特说。“每个人都有乘数和蓄电池。每个人都有成千上万的他们,他们将看起来都差不多。没有秘密的办法乘数蓄电池。面临的挑战是保持乘积累利用尽可能多的,因为你付出的晶体管。如果你没有做有用的工作,你的吞吐量/美元下降。和晶体管燃烧力量甚至当他们不做有用的工作,这样你的每瓦吞吐量下降。”

图1:边缘的推论。来源:Flex Logix

这就是编程变得很重要。“可编程逻辑具体应用到边缘,”Chris海岸,说主任嵌入式解决方案,汽车和物联网业务手臂。“特别是边缘有时是难以接近的地方,有时不适合居住,并且能够替换或修改功能,而无需访问设备是关键在大量的应用程序和在许多地方我们要用这些东西。是否可编程序逻辑或是否它是一个可编程的学习模式是否只是能力teo替换设备的固件,大量的应用程序远程升级功能绝对是关键。”

但有一个权衡,尤其是在成本和原始性能。”的一件事,人们使用了fpga的帖子是对事物的标准可能会改变随着时间的推移,”格林伯格说。“可能会有一个新的标准,例如,对一个特定的块数据传输或者加密。这可能是一个很好的使用可编程序逻辑的应用程序”。

利用现有的计算资源
不管人们如何定义边缘,大多数人认为有一个巨大的未开发的潜力,更有效地利用现有的计算资源的能力。

“人们似乎立刻急于实现尽可能多的在边缘,“岸上。“现在每个人都在谈论毫升边缘和AI边缘。我不相信,我们已经准备好了。我们没有硬件到位,我不相信人们有正确的解决方案要做这样的事情在我们看,这是一种单片机的信封和单片机的权力,就规模而言,成本的。我不认为任何人的真正得到解决方案。人们忽视了,有很多你可以做我们现在在的地方,我们对我们想要的地方。此外,这些平台的未来都AI-at-the-edge,我们都说他们也会因为有大量的公司和工作的人。它会发生,有激动人心的发展。但有很多,我们现在能做的我们已经在边缘的设备。”

具体来说,很多传感器的边缘已经数字化,岸上说。“如果你看看类似的健康监测和这类事情,他们已经有了大量的计算能力内置到设备中。甚至像水监测,农民将地毯式轰炸他的字段有一个可用的计算内置传感器,你可以用它来让系统更高效,在商业上更有用的预处理可以提供。”

这同样适用于智能手表和恒温器,他说。Nest恒温器”能做的远不止运行你的暖气,但剩下的计算能力是远远未充分利用的。它可以用来控制照明和各种各样的其他东西在房子周围。因缺乏互操作性标准和分享的能力计算与其他设备和其他用例,这就是没有发生。这是一个耻辱,因为设备大部分时间坐在那儿挂在我的墙上,甚至不是电池供电,所以没有借口。这通常发生在开始推出的新的做事方式。每个人都想做不同的方式。每个人都使用不同的标准,不同的沟通方式,不同的通信协议,不同的数据标准。这意味着很难让他们合作。”

结论
边缘作为一个概念已经存在了几十年。有什么新鲜事是更智能的计算可以通过一系列的设备,包括找出哪些数据在本地处理,处理其他地方和何时何地移动它。

这引发了一个巨大的努力定义和控制各个部分的边缘,或至少开拓出一个有利可图的利基。在可预见的未来,将会有很多选择,很多看法如何最好地应用技术对于一个特定的应用程序,但此时它还为时过早或者当这一切将如何。这是一个全新的机会,到目前为止没有人拥有它。

相关文章
竞相边缘
机会是惊人的,但是这样的挑战是让各个部分协同工作。
人工智能芯片架构的优势
公司战斗出来让人工智能边缘使用各种芯片架构作为他们的武器选择。
从云边缘扩散情报
爆炸的数据正迫使显著变化处理的地方。
计划5 g和边缘
专家在餐桌上,第2部分:理解5 g的利益,限制和设计挑战。
FD-SOI边上
专家在餐桌上,第3部分:推动全耗尽SOI 10/7nm AI的优势;供应链中少了什么。
IIoT边缘是一个移动的标靶
物联网联盟定义使用场景,没有标准,IIoT边缘计算。
访问我们的边缘知识中心
所有关于边缘计算:最新文章、博客、白皮书和视频