中文 英语

赢家和输家在边缘

目前还没有一家公司拥有这个市场,而且在很长一段时间内也不会。

受欢迎程度

这种优势是与狭窄的垂直市场相关联的大量利基市场,而且这种情况可能会在未来几年保持下去。这对半导体公司来说既是好也是坏,这取决于它们在生态系统中的位置,以及它们适应不断变化的环境的能力。

一些领域将继续或出现新的增长,包括EDA、制造设备、IP、安全和数据分析。其他公司的市场份额可能会被侵蚀,因为设计高级节点芯片的成本飙升,而它们之下的终端市场继续分化。因此,他们将不得不变得更加灵活,并在边缘市场争夺较小的销量,而不是通过销售数亿甚至数十亿台来盈利。到目前为止,在边缘市场还没有明显的赢家。

这已经在多个市场引起动荡。这些例子包括:

  • 芯片制造商最大的战利品是为服务器、智能手机和越来越多的汽车公司设计的芯片。但谷歌、Facebook和苹果等系统公司,以及大众、戴姆勒和宝马等大型汽车原始设备制造商,现在都在设计自己的芯片,以利用其专有的AI/ML/DL算法或软件。这使得独立的芯片制造商争夺加速器和控制逻辑设计,这些设计的平均销售价格(asp)要低得多。
  • 边缘市场正变得越来越狭隘,特别是随着智能被添加到设备中以提供特定的解决方案。为了最大限度地提高性能和电源效率,硬件需要与软件共同设计,这使得开发一个适用于多个市场的极其复杂的SoC变得困难。
  • edge的推出恰逢摩尔定律的放缓,以及开发高度定制化soc的成本上升。这使得跨多个领域的基础平台的开发变得更加重要,但这也需要多个供应商开发的芯片和其他IP。这往往会稀释利润,改变商业模式。

从整体上看,边缘这代表了芯片行业的一个进化拐点,由数据爆炸、人工智能无处不在的采用以及将所有数据发送到云端进行处理的高成本(从货币和内存/带宽/功率的角度来看)所驱动。对于难以立足的小公司来说,这为新机遇打开了大门。但这些市场窗口将比过去更快地打开和关闭,竞争、价格压力和上市时间需求预计将非常激烈。

总的来说,芯片市场可以分为四个领域——云计算、边缘计算、边缘设备和设备上加速器。每一个都是非常不同的,即使它们是由数据流连接起来的。

IP at的战略营销经理罗恩•洛曼(Ron Lowman)表示:“我们的客户对IP的选择截然不同Synopsys对此.“我们为云计算、边缘计算、边缘设备和设备上加速提供了人工智能加速器,这些设备可能是在移动应用程序处理器中添加了人工智能的移动设备。同样的情况也发生在汽车行业。这是一个可以做人工智能的应用处理器。IP选择是不同的。人工智能加速器正在使用不同的创新来加速这些技术。”

每一种都有非常不同的关注点。“它们是完全不同的市场,”洛曼说。“汽车公司正试图做自己的事情神经网络.那些专注于语音的公司正在努力RNNslpsn(低功耗传感器节点)。边缘设备公司正在尝试更先进的技术,比如高度压缩的尖峰神经网络,其工作方式更像大脑。摄像头开发人员正在做人脸识别,这已经足够好了,所以他们只是想降低成本。车牌识别器现在相当简单了。这与功耗和成本有关,而不是试图改进算法。”

定义边
给所有这些发展贴上一个单一的标签可能是不可能的,更糟糕的是,边缘仍在形成,定义仍在变化。但总的来说,边缘技术是四波计算浪潮的高潮。

微软通信产品副总裁Zeev Collin说:“第一波是个人电脑,当时的重点是计算性能。Adesto技术.“当时有数百万台电脑都装有昂贵的大型处理器。第二波是连接性,这开启了一个销售的数量级账户.然后我们迎来了移动革命,在设备数量上又增加了两个数量级,再一次带来了设备的小型化和成本压力。第四波,与物联网美国将增加数百亿台设备,但这一切都是规模、成本和功率的综合问题。与前一波不同的是,这次的焦点是可以传输多少数据以及传输距离。如果你不需要那么多的数据,你不必把它推得太远,但它必须具有低延迟。这是非常不同的交通问题。”

边缘是第五波。西蒙·西格斯,首席执行官手臂他指出,人工智能、5G和物联网的融合是世界新秩序的决定性技术。仅仅建造数百亿的廉价设备并将所有东西都发送到云端,并不适用于许多设备。大量数据的移动给许多应用程序增加了太多的延迟,即使有最快的通信和处理基础设施,也会引发共享个人数据的隐私问题。

这反过来又促使人们急于在靠近数据源的地方进行更多的处理。但要实现所需的性能改进,通常是在电池或有限的电力预算下,需要从根本上重新思考整个设计过程。由于数据现在驻留在这些设备上,除了需要清洗和结构化之外,这些设备还比简单的物联网设备需要更多的安全性。


图1:中间地带,但仍在定义和发展中。来源:Rambus

设计中的挑战
在这一领域竞争的半导体公司最初面临的最大挑战之一,将是说服潜在客户,他们的解决方案比竞争对手的更好。通常情况下,这需要苹果对苹果的性能和功率比较,但只有当相同的软件可以在不同的系统上运行时,指标才有效。例如,为了确定PC的速度,使用了相同的计算密集型应用程序。这也适用于比较gpu、mcu和fpga。但是在高度针对性的应用程序中,用例可能是完全不同的,并且指标需要针对这些用例进行定制。

“每个MAC的皮焦耳只是说明你在MAC上的计算有多好,”Kris Ardis说马克西姆集成.“还有很多事情要做。将数据从一个地方移动到另一个地方花费了大量的能量。这真的支持了一种架构,在这种架构中,你不需要移动东西,而是在它们所在的地方操作。”

举个例子:马克沁综合公司卷积神经网络加速器是专为这一目的而设计的,采用40nm工艺以降低成本。

阿迪斯说:“它从一开始就被设计成一个CNN加速器,与我们在市场上看到的不同,在市场上,微控制器有神经辅助,或者你可能做了更多的并行数学,但你仍然在获取权重和数据,并存储中间结果。”“这是一个地基建筑。虽然我们正在构建的芯片包含一个带有闪存和SRAM的Arm Cortex M4,但这些主要用于系统管理。芯片的大部分是这个巨大的外围设备:神经网络加速器。所以你启动,你从闪存中复制你的权重和其他配置,然后你把它放入嵌入神经网络加速器的权重内存中。”

其结果是比通用MCU性能好几个数量级,功耗更低,但用例更窄。这是一个很大的权衡,它代表了一种不同的边缘设计方式。cnn主要用于图像和视频识别以及自然语言处理。但即便如此,这也比边缘领域的其他一些应用要广泛得多,这就是为边缘设计芯片的经济学开始变得具有挑战性的地方——从设计的角度来看,可能更有趣。


图2:物体识别等ML应用受益于边缘处理器。来源:Maxim Integrated

的首席执行官Raik Brinkmann说:“如果你看看你必须做什么来优化图形加速器的CUDA实现,很多都涉及提高吞吐量以使其更快。OneSpin解决方案.“这非常类似于对硬件设计进行架构更改。那么,在算法层面上,如果我改变计算的顺序会怎样?如果我有一种交叉运算的方法呢?当你把东西并行化并映射到硬件上时,人们已经在做了,因为gpu很大,而且本质上是并行的。”

但这也需要对硬件和软件设计工具的理解,以及对计算机科学的一点了解。“问题是,‘他们会学会所有这些吗?还是他们使用的工具会变得如此强大,以至于能够为他们做这些事情?布林克曼说:“高层综合的希望在于,你可以毫不费力地将一个算法高效地映射到平台上。”“但我认为这不会很快发生。”

这也促使人们更加关注可编程性,并提高了对可定制指令集架构的兴趣,特别是RISC-V。

嵌入式fpga在多年的观望之后,这是一种开始获得关注的方法。“我们已经结束了试验期,”公司首席执行官杰夫·塔特(Geoff Tate)说Flex Logix.“我们有一些早期的开拓者。他们已经取得了成功。嵌入式fpga的价值一直很明显。市场上的问题是它是否有效。现在人们看到了它的作用,我们得到了越来越多的采纳。我们与客户合作的芯片有十几个,还有几十个正在设计和评估中。”

eFPGA的优点是它可以被集成到任何工艺节点上的任何芯片中,并增加可编程性,这既有助于自定义SoC,也有助于随着算法和协议的变化保持现有芯片的最新状态,因为它可以在现场编程。

RISC-V提供了一种不同的方法。“在过去,客户希望拥有能够完成简单任务的嵌入式内核,”Zdenek Prikryl说Codasip.“现在他们想要一个能够播放视频的核心,或者一个更复杂的核心。你可以在AI的向量中看到很多活动。如果你看看欧洲进程计划,你会发现他们在矢量处理中大量使用协处理器。RISC-V将用于处理器,我相信在几年内,你将开始看到Android移植到RISC-V。”

Arm同样在去年秋天的TechCon上宣布,它将开放MCU ISA,允许被许可方构建自己的自定义指令,并开发了自己的工具,以确保与公司的安全基础设施TrustZone兼容。这一举措有助于Arm的嵌入式处理器架构适应边缘。

不同的安全
安全在边缘设计中扮演着越来越重要的角色,安全供应商在这个市场上具有潜在的巨大优势。虽然设计高度垂直,但安全性需要水平实现。这可能包括从防篡改技术到信任根源和软件/固件安全的一切,以及与这些技术一起出售的安全服务。

“数据移动正在影响系统架构,以及我们如何看待安全问题,这是推动这一趋势的主要原因。Rambus.“将所有数据都拖到数据中心是不可行的,所以直接将其部署到您的设备上,并将少量数据运回数据中心。所以现在你可以让原始数据更接近终端设备,这就增加了对安全性的有趣的新要求。如果你所做的只是发送数据,你可以做一些事情来模糊数据。但如果你的攻击面更大——更多的门或接入点——那么你就需要更多地考虑架构了。”

这也意味着,如果设备受到威胁,备份可能不会像“传统”物联网设备那样位于云端。处理这个问题的一个选择是,除了封闭外围和数据之外,还要关注弹性。如果设备受到损害,它需要能够恢复,特别是在汽车和机器人等边缘应用中,这些应用可能涉及安全。

“如果你看看国防部,他们的方法是有一个安全的网络和一个不安全的网络,这两者是相互隔离的,”Jason Oberg说龟岛的逻辑.“这种方法在现代系统中行不通,因为它们太复杂、相互交织,数据类型太多。所以你需要在一些事物之间有某种共享,比如上下文。你需要一种方法来发现问题,并做出适当的调整和反应。但你也想建立基础设施。你需要建立一堵墙,但如果这些墙被打破了,你需要一种回应的方式。有一种方法可以评估这种风险。所以‘这堵’墙可能会被打破,而‘这堵’墙几乎不可能被打破。”


图3:安全层和步骤。来源:Tortuga Logic

“透明度很重要,”奥伯格说。“你想要市场反馈你的系统有多安全。所以你需要设计一个基于基本安全原理的芯片。你需要一种平衡,‘我建造了它,但我也要对我建造的东西保持透明。’对此保持开放态度是非常必要的。”

除了安全性之外,汽车和其他安全关键应用程序还增加了两个其他关键需求,即安全性和可靠性。所有这些元素在过去都是独立的,但在汽车等应用中,每个元素都相互影响。

“边缘芯片有很多独特性,也有很多共性,”Synopsys首席安全技术专家迈克·博尔扎(Mike Borza)说。“人工智能有很多共性。问题是人工智能有利有弊。它可以用于好的方面,也可以用于坏的方面。”

其他问题
还有许多其他挑战,这在新市场中并不罕见。边缘的问题是很难达到解决这些问题的临界质量,因为有太多的碎片化。

“汽车领域的许多设计都是高度可配置的,甚至可以根据从传感器获得的数据进行动态配置,”公司营销副总裁西蒙·兰斯(Simon Rance)说ClioSoft.“数据从这些传感器返回到处理器。从车辆到数据中心再回到车辆的大量数据,所有这些都必须被追踪。如果出现问题,他们必须追踪并找出根本原因是什么。这就是需要填补的地方。”

此外,许多数据都是独一无二的,部分原因是每个OEM都在开发自己的技术,部分原因是汽车行业有大量可能的用例和角落案例。“汽车行业需要更多的标准化,并确定哪些数据不需要是唯一的,”Rance说。

任何能够提供某种程度的共同性的东西都会有所帮助。“在设计NoC时,一切都是基于用例的,”库尔特·舒勒(Kurt Shuler)说Arteris IP.“你必须了解用例是什么,才能评估NoC。这有两个方面。一个是在芯片上网络的创建和它的配置,以及在芯片上刻录的内容。另一步是,一旦你创建了所有的道路——他们这么长或这么宽——就是这样。这决定了服务的质量。那是你在入口匝道,建筑和红绿灯上安装测光灯的地方。这就是服务质量的特点,而且是动态的。”

但如果算法改变了,就需要有变通办法。Shuler说:“我们的芯片架构师必须平衡这一点。“如果你总是运行三到五个用例,没有什么变化,那么他们会非常细致地调整NoC的配置。芯片只能做到这一点。如果他们改变了用例,就不能很好地执行。你真的锁定了性能方案。这是一个极端。另一个极端是有人在做通用人工智能芯片。他们会放更多的东西,额外的位宽,所以你可以放控制和状态寄存器,改变事物的优先级。在第一种情况下,它是静态的。 In most cases, except for things that are deeply embedded and will only do a few functions, the quality of service capabilities are super-important. Especially for merchant chip vendors, they’re designing a platform that may be going into multiple markets.”

结论
由于终端市场的分裂,以及针对特定用例定制人工智能解决方案的需求,这一优势在很大程度上仍然是一个尚未开发的机会。但这也是一个任何一家公司都难以独霸的领域,因为有效利用这些机会的唯一方法是快速、廉价地拼凑各种碎片。

这意味着将出现灵活、低成本的新商业模式,而这将要求芯片制造商在进入市场的战略上做出一些调整。但是,至少到目前为止,在边缘的景观似乎是广阔的,如果有点模糊。错失良机的公司可能很快就能抓住新机会。然而,在相当长的一段时间内,这个行业可能会出现很多动荡。

相关的材料
边缘计算知识中心
关于边缘计算的头条新闻、特别报道、视频、白皮书和博客
构建智能系统的挑战
与会专家:看看当今设备中的智能,以及它需要如何发展。
矛盾的要求在边缘
成本、功率和安全性与智能、本地化处理和定制的需求相冲突。
加速边缘计算
管理和处理数据的新方法以及比较数据的标准方法出现了。
AI边缘芯片的内存问题
内存中计算变得至关重要,但是在哪个内存中,在哪个进程节点上?



留下回复


(注:此名称将公开显示)

Baidu