连接在一个特定领域的世界

移动数据可能是最有趣的方面的系统设计,但它是三条腿,定义了系统的关键性能指标(KPI)。计算、内存和互连都需要平衡。否则,资源浪费和性能。

问题是互连系统功能很少被视为一个贡献者。它被视为开销。在一个时代算法和工作负载变化更快芯片设计,互连很可能成为拼图中,使系统能适应发展。

互连并不是一个新问题,而一些额外的障碍正在补充说,几十年来它一直保持相同的问题。

“我们一直试图预测性能的通信很长一段时间,”Frank Schirrmeister说高级组的解决方案营销总监节奏。“过去是一个高级的预测沟通将会是什么样子变得如此的中心领域特定计算的时代,企业实际上是做各种分析更早和做详细的模型。我不认为互连是排除在外。因为自动生成的实现它们的能力,它作为建筑探索的一部分。”

之后,团队必须确定如果预测是正确的。“一旦你做了体系结构的调查,人们做的是互连的修正参数,说,“这是我将配置的方式互连,”“约翰内斯·斯塔尔说,产品营销高级总监Synopsys对此。“这是我要的方式配置内存控制器,这就是我作为一个规范进入RTL实现。当他们有最终的RTL可以测量这些kpi。”

在许多情况下,这种分析不能做纯粹的建筑水平。”这种架构的决定必须由很多高层支持模拟和考虑,”安迪Heinig说,组长为先进的系统集成和有效电子产品主管部门弗劳恩霍夫IIS的自适应系统的工程部门。“一个必要的模拟是系统级功能仿真/验证,但快速的布图规划,包估计,电力和地面估计,热估计,和许多其他问题必须考虑。PPA可以优化的,但是很多系统也受到其他因素,例如,功率输出,散热和包装成本。”

最近的几个问题已经改变了。首先是移动的数据量,增加需要减少电力和延迟,同时增加吞吐量为特定的任务和工作负载。“有三个方面的问题陈述数据移动,“莫费萨尔说,总裁兼首席执行官Movellus。“有带宽问题——你可以把速度数据。有物理限制,比如你可以使用多少电线。最后,有同步来确保数据保持一致。每当你看移动数据从A点到B点,你看看你的车有多大,有多宽总线,总线速度可以和你要做的跟踪信号调节和同步。”

最近的第二个变化是系统级的进化方面。“定义得到越多,就越容易锁下来,“说曼纽尔嗯,硅营销主管赛灵思公司。“但这限制了灵活性你能做什么在未来。AI和毫升是一个区域的发展如此迅速,它实际上是难以锁定任何的算法,基本内核和操作,或计算函数所需的支持。即使是正在发生变化的数据类型。曾经有很多集中在Int8数据类型,和人现在发现如果他们减少Int4,他们通常可以得到几乎相同的精度,但显著降低计算需求和吞吐量需求。”

对权力有巨大的影响。“能耗的预测给定的工作负载下的芯片是一种最复杂的任务我们行业必须解决的今天,“Guillaume Boillet说,产品管理主管Arteris IP。“它需要的非常详细的表示硬件和底层的交通。然而,卷积神经网络的功耗差别几乎线性的精确量化的。换句话说,一个实现依赖于32位表示将大约消耗两倍一个实现16位。”

Futureproofing增添了另一个维度的问题。“这就是软件定义网络(SDN)这个词,“节奏的Schirrmeister说。“你定义的带宽,小心不要过多的东西。你需要下面的跑道满足所有你的目标。然后您可以定义SDN之上。这是很困难的。人们不能预测最终带宽将是什么。这就是为什么一切都变得更加软件加载”。

添加更多的开销吗?“在某些情况下,可能会有Xilinx的嗯说。“如果你不需要所有的吞吐量能够移动,可能会有一些过度供应。但是提供的灵活性,总是如此。如果你不需要这种灵活性,只使用一个ASSP或建立一个ASIC。锁定所有这些东西,就永远不会改变他们,或者花数百万美元来改变他们。”

抽象的设计和实现的局限性使预测困难。“一个虚拟样机可能是一个非常抽象的模型用于建筑勘探,你只是互连和内存模型,和其他抽象的负载模型,”Synopsys对此“斯特尔说。“这权衡决策的提供了一个良好的迹象,但没有任何精确的值。如果你有一个好的功能模型在这一水平,那么您可以编写软件,但真正的PPA的价值观,你太遥远。太抽象了或太不完整的,有价值的预测实现。”

问题的范围
的日子一去不复返了问题是制约芯片或者是直接连接。在许多情况下,必须仔细分析定义的范围。“在一个包,这可能是一个整体死亡或死亡的联系2.5 d或3 d你需要处理的沟通,“Schirrmeister说。在这些情况下“记忆至关重要。但是当你在,也许考虑范围数据中心(见图1),当你看架和它们是如何连接的,延长整个网络的概念,现在你正在调查延迟。你必须看看计算,延迟,权力,和性能——所有相互联系,当你做出决定。我的过程吗物联网终端设备?我在边缘附近的过程吗?我在远边的过程吗?我在本地数据中心流程吗?或者我把一切向云吗?这个超链接性的概念发挥到它,但是你需要真正意识到范围。”

图1:范围互连问题。来源:节奏

而这些问题并不新鲜人设计数据中心,它们是新的芯片/包设计师。“我们需要认识到有一个更高的延迟或更高的延迟时间,需要在模型描述,“Synopsys对此“斯特尔说。“对于那些大型系统模型,这并不是什么新鲜事。我们看到的是一个需要建模的物理off-die连接作为验证过程的一部分系统或系统调优。想象你有一个DRAM和DRAM体育。你需要训练和优化体育。您可以使用硅验证的标准序列在某些节点,也许你是快乐的。但如果你真的想推动系统的边界,你可能想要非常具体的培训这个DRAM接口邻死。”

很多人都在考虑迁移到multi-die包。“产量是一个非常大的因素,“说Movellus费萨尔。“有硅物理方面发挥作用,当你开始做越来越大。你开始跑到第二、第三、四阶变化的影响,在你的时钟和退化,退化你的电网,然后问题数据移动和功率输出。然而,你必须理解权衡。如果你把一个400毫米平方芯片切成4 X 100毫米平方芯片和全带宽,你会采取200 w芯片和把它变成一个250 w的筹码。额外的50 w是I / O开销。”

数据流和工作负载
虽然有些芯片是为了解决狭窄的问题,需要更多的灵活性,工作量不大的限制。“你可以有视觉处理或音频处理或自主驾驶,“费萨尔说。”这些都是不同的问题语句的数据结构和不同的图形。反过来,修改互连约束。”

但它有可能开发出流。“你实际上在地图上标出的数据流算法,为您正在开发的系统,你计划network-on-chip (NoC)以适应数据流,“嗯说。“这是非常重要的映射算法和数据流,然后做一些流量分析。我们有一个工具(参见图2)告诉你如果你建立了目标是可能的。如果你试图延迟强加限制,它将工作在这些延迟的限制,或告诉你这是不可能的。设置数据的宽度和其他很重要的事情。”

图2:映射互连。来源:Xilinx

然而,这可能并不总是那么简单。“挑战是,在那个阶段的设计你没有真正的软件,”斯塔尔说。“你可能只有抽象表示的软件工作量。这正确的交易和互连将生成代表交通,但这不是实际的软件。这是一个表示的软件。它是一个抽象的工作负载模型。这可能是足够好的架构师想让基本的权衡。”

其他工具来帮助生成或工作负载。“有新语言,如便携式刺激Accellera系统定义的标准(PSS)倡议,“Schirrmeister说。“它允许您生成测试流。方面的用例可以定义和创建此测试环境。然后可以通过约束求解所有的周期。”

有很多因素在构建NoC。“有很多考虑,”说,嗯。“你可能有多个拓扑与不同的路由,确保没有死锁,没有争用,可以发生在公共汽车。”

图3:网络芯片问题。来源:Xilinx。

NoC也可以执行许多其他功能。“每个核心会有变异和倾斜问题,“费萨尔说。“你可能需要修改电压在一个特定的核心来满足您的性能目标,但是如果你想去跟另一个核心,你要放点东西在他们之间。你需要中间NoC,因为你不能保持在同一边缘数据传输。你的时钟在两个核心不会对齐或同步”。

许多人认为互联是乏味的。“想象一下一个SoC架构,所有的块network-on-chip互连,”库尔特·舒勒说,负责营销的副总裁Arteris IP。“你可能200东西连接到NoC芯片的中心。NoC工具管理的所有元数据的IP连接到它。3所有这些信息是一个巨大的系统误差来源。我们都犯错误。和导致问题,不仅对常规芯片。但是你能想象为典型的功能安全要求吗?”

安全
数据的通信是一个攻击表面,需要仔细考虑。“你不必保护整个系统从安全的角度来看,“费萨尔说。“你只是保护的重要组成部分。但是缺点是,当你开始在协议出于安全原因,或任何其他原因,您的系统增加更多的延迟。如果你想开始担心的安全互连的通信协议,你必须权衡在延迟和整个系统的吞吐量和性能”。

这需要我们最初的架构设计和分析完整的循环。“这就是为什么系统分析工具看看之类的热影响,电磁效应、流动性的影响,“Schirrmeister说。“有某种程度的安全,但这只不过是古老的种族之间有人试图获得一个系统,和一个黑客试图破解它。一旦入侵,将持续很长一段时间。这同样适用于内置的调试系统。这些都是攻击表面。你必须非常小心你如何处理这些。所以,是的,有新的攻击表面引入的,但人们认为相当积极如何获得它们。”

结论
你打算多久你的芯片保持相关吗?这不是一个问题很多人问过去。但随着算法的速度和数据类型正在发生变化,拥有一个设计不够灵活可能意味着你要把芯片以更快的速度。这很难收回负阻元件。

然而,如果您添加太多的灵活性最初你可能没有竞争力。互连是一个灵活性的重要组成部分,它的设计是比过去更受重视。合并多个死于一个包也创造新的可能性,使系统级架构分析更为重要。