中文 英语
18.luck新利
的意见

运营商焦虑

避免被困在路边机器学习。

受欢迎程度

你是早期开拓者之一购买电动汽车吗?在美国2022年第三季度,有6%的新汽车销售纯电动模式。尽管炒作,今天重要的购买补贴支持电池汽车——只有1%的累计服务在美国的汽车纯电动。电动汽车销售的其中一个原因尚未完全取代传统汽车销售是缺乏广泛,可用充电快基础设施。消费者研究电池电力不足突出运行的恐惧,而不是被一个充电快站附近为收养的一个主要障碍。汽车市场分析人士把这种现象称为“里程焦虑担忧。“在一个陌生的平行,半导体市场的焦虑问题的!

设计师几乎每一个终端市场的先进半导体采用机器学习和部署(ML)在新的硅设计处理能力。芯片系统(SoC)设计部署的混合物可编程核(cpu、gpu dsp)和专用机器学习推理加速器(转专业),以提供高效的解决方案,可以运行当今最新最先进的ML推理模型。

然而,机器学习的世界正在迅速变化。创新数据科学家们不断发现和发明新的技术来提高艺术的状态(SOTA)。2023年基准毫升今天网络使用选择知识产权(IP)的构建块新的SoC设计3或4年前还不存在。硅设计今天将在2025年和2026年在生产此时SOTA模型可能看起来一点也不像今天的前沿网络。毫升模型的变化发生在两种方式,不同的模型拓扑结构重新排列知道运营商进入更深和更复杂的网络,以及创建新的基本毫升运营商。前-重新构建块不是一个艰巨的想了SoC设计人员。但后者-新运营商对芯片设计者提出了重大关切。如果今天在2023毫升加速器你选择不能支持一个新的运营商2026年发明?分析师在我方市场有借鉴上述汽车市场,创造了“运营商焦虑”一词来形容现在的担心,选择可能会回来困扰着未来的芯片设计。

硅的典型体系结构方法在今天的解决方案对一个转专业的“加速器”与一个完全可编程的机器学习,但是更低性能CPU、GPU,或DSP。加速器通常的运行最常见的ML运营商——曲线玲珑,尽可能有效地激活,池。一些加速器没有能够添加新的功能一旦硅。其他形式的灵活性有限micro-coded命令流手写的IP供应商。在这两种情况下,转专业供应商承诺在最坏情况下的SoC设计的同伴CPU或DSP运行新涌现的运营商IP供应商所说的后备模式。但一个可编程的CPU或DSP可能比转慢一个数量级。常慢两个数量级。(毕竟,如果CPU几乎一样快转专业,为什么你需要一个转专业呢?)这是焦虑的来源!系统整体性能陨石坑如果一层SOTA网络加速器必须远离快而且缓慢的处理器上运行。

缓慢的DSP上运行一个新的ML运营商或CPU相当于给电动车充电的延长线插入110 v墙壁插座。你想要为你的电动车是一个800伏的快速充电器,上衣在20分钟,电池不是一个低电压,低安培数墙壁插座充电,需要18个小时你的车。

电动汽车里程焦虑普遍存在的答案,现成的快速充电器。soc的并行:运营商焦虑可以治愈的现成的处理器可以运行任何操作符是专用的转专业的性能效率。

有一个治疗操作符焦虑!

二次曲面的妄想GPNPU -可在1、4、16上衣变体——是受欢迎的焦虑缓解方案。嵌合体GPNPUs交付matrix-optimized性能你期望从一个ML-optimized计算引擎,同时充分c++编程的软件开发人员。新的ML运营商可以快速编写并运行“本地”运营商一样快速二次曲面工程师写的。嵌合体核心没有回退,没有运营商焦虑,只有快速执行,不管未来新形式的运营商或图形。



留下一个回复


(注意:这个名字会显示公开)

Baidu