固件技能短缺

好硬件没有软件是一个浪费的硅,但如此多的新处理器和加速器架构创建,所以许多新技能要求,公司发现很难聘请足够的与底层软件工程师的专业知识来满足需求。

写编译器,映射器和优化软件没有相同级别的精力开发新人工智能算法,或一个新的智能手机应用程序,但没有他们,整个行业将会受到影响。

大学正在努力证明足够的毕业生行业需要的技能。这个问题的部分原因是技能范围正在扩大,这是不合理的完成,如果没有数度。例如,应届毕业生可能知道如何创建一个人工智能算法,但很少有人理解的含义使其高效运行在一个边缘设备,或如何调试系统,提供不正确的结果。

缺乏软件的人。“你永远不会有足够的程序员,”罗伯特·欧文说,全球大学校长顾问项目想象力的技术。”的软件你可以总是可以更多。总有您可以添加额外的功能,总有更多的测试,验证,您可以创建更好的工具。对编程在最广泛意义上的需求增长,并将继续在可预见的未来增长。”

但随着新硬件,固件人是必要的。“你怎么确定你可以利用硬件以最好的方式吗?这是一个巨大的问题,而不仅仅是一个技能差距,“高级经理Anoop萨哈说战略和业务发展西门子EDA。“这不仅仅是一个知识差距。本质上它是一个硬件/软件合作设计必须解决的问题。以前使用的硬件设计和软件使用一个相当标准的接口。现在它超越。硬件和软件之间有很多接口和很多层,打破组织筒仓是十分重要的。”

硬件没有软件是无用的
许多希望公司有了解到,无论多么好的硬件,如果他们没有足够的投资软件,或未能使产品容易使用,他们就会失败。“早期的成功,TI在数字信号处理(DSP)是因为编译器的质量,”欧文说。“回顾过去,编译器不是很好,但它是最好的一个。了TI竞争优势,逐步编译器改善了。”

当时,它需要新的技能。“我是在图像压缩领域工作20年前,“Benoit de Lescure说,首席技术官Arteris IP。“我们有一个类似的问题,都有现成的DSP,和我们自己的专用DSP。寻找有效利用SIMD硬件的人是极其困难的,因为你需要“认为并行”。但很少有人准备做事投入到硬件架构可能过时的两三年后。”

不过,每个人都知道他们必须找到这些人。“没关系的硬件衬底有多好,如果这是一场噩梦,人不会,”蒂姆·阿瑟顿说,人工智能的研究主任的想象力。“大量的进入软件的成本和时间。上面的软件,硬件,有一个至关重要的产品,将会是一个成功。”

我们已经看到最近的成功的例子。“看看什么Nvidia CUDA,”伊莱亚斯法伦说,软件工程组定制IC及PCB集团主管节奏。“所以他们大部分的成功是一个编程接口,可以让人们不要过于担心硬件。这样编写代码,使用这些库,你将获得巨大的性能改进。所有加速器必须想出类似。”

该行业正面临下一个挑战。“半导体公司,创建了创新的处理器架构现在面临这个挑战,”伊恩·弗格森说,负责销售和营销的副总裁猞猁软件技术。“他们怎么能帮助程序员利用这些组件的一组不同的工作负载和框架改变?”

与过去不同的是,它并不总是领先的硬件架构。“两年前,双向编码器陈述变压器(BERT)和增强语言表达与信息实体(厄尼)在很大程度上只是学术论文,”弗格森说。“但现在,这些模型被用于许多自然语言处理应用程序。这将影响硬件处理器架构和工具链有一段时间了。”

人工智能是一个转折
尽管许多大学毕业生与AI知识武装,很少有人知道如何映射到硬件。”有一个明显的不同技能之间毫升开发人员创建和训练神经网络,优化算法和嵌入式程序员习惯于为嵌入式平台或应用程序代码,”史蒂夫说罗迪,产品营销副总裁机器学习小组手臂。“这是一个谬论认为大量的两组可以快速重新训练的桥梁,作为问题的技能需要多年时间才能构建和主人。”

那空白需要填补人与工具。“目前有一个高级数据科学家之间的差距,也从事高级工具,和具体的硬件实现,”安迪Heinig说,组长为先进的系统集成和有效电子产品主管部门弗劳恩霍夫IIS的自适应系统的工程部门。“出于这个原因,新的设计方法是必要的,支持数据的高级工具科学家和他们的知识转换成高度优化的硬件。此外,设计方法是必要的,可以用来比较不同的高层实现特定的硬件在现实世界条件下。”

这些比较是不简单的1:1映射问题。“成功的人工智能芯片将是那些满足两套标准,“说杰夫•泰特的首席执行官Flex Logix。“首先,他们必须提供更多的推论每秒,每美元每瓦,在高质量的客户的神经网络模型。客户有一美元预算和功率预算,希望最性能他们可以在他们的预算。第二,他们希望能够重用的软件。如果客户详细的,低级的,特定于硬件的编程,它会增加人工智能发展的成本和延迟他们的时间表。它也将使它很难评价新架构。”

优化传统的cpu使用编译器创建一个映射,使用几个开关执行修改如何优化。即使对于cpu,这被证明是高度限制,因为这种方法没有考虑功率优化,代码尺寸优化,或主机的事情——除了性能越来越重要的今天。

”cpu,包括高性能方面的架构,详细信息在很大程度上被抽象出来,“想象力的说,阿瑟顿。“设计新的网络非常大而复杂的项目,并且通常显示为图表,并映射到许多不同类型的架构是很难做的,如果不是不可能的话。”

在这些架构存在着根本性的差异。“当人们谈论non-von诺伊曼体系结构,内存和执行的分离,我知道作为一名电气工程师,“节奏的法伦说。“但当我开始思考如何写代码,或如何适应代码更以数据为中心,创造了更多的问题。有很大的差距,很多加速器公司将与它斗争。”

这个行业正在框架使这一切成为可能。图1所示的一个例子是张量虚拟机(TVM)分级多层堆栈编译器和运行时系统深入学习,大部分都是一样的,不管什么后端硬件。

图1:开放编译器为AI框架:来源:Apache软件基金会

的技能
鉴于独特的硬件架构创建的数量,这意味着很多不同的后端必须写。这些人需要一个广泛的技能。“他们需要软件文化,他们需要硬件有文化,他们需要computer-hardware-literate,他们必须理解该优化可以适用于一个图来描述一个特定的神经网络,”阿瑟顿说。“这不是一个技能,你会发现在很多人。我们的处理方式是在几个研究工程师的技能相结合,一些与博士,他们组合在一起形成完整的图片。但试图让所有的人是很难的。”

它需要思考问题比过去有所不同。“我们必须打破组织筒仓、“西门子萨哈说。“今天,你有硬件团队,每个人都是硬件方面的专家,同样的软件团队。但是我们需要的是一个团队,由一定数量的硬件工程师和软件工程师,因此合并后的团队知识是有用的。”

会有一个人能理解这一切吗?”这些人理想的背景是,他们有一个数学学位,可能也在计算机科学中,或许他们所做的一些计算机工程,,所以他们有硬件架构的理解,”欧文说。“做完这三度,那么他们能够运用这些技能,很好地连接的世界类似Tensorflow通过一个高效的编译器到映射到架构。”

这样的人会在一个很高的价格。“整个行业面临挑战,因为学习编程是一项基本技能,”萨哈说。“这是一个“101”课程。然后你可以分化成为不同的域。我们还需要的是关于算法和数据科学的知识。统计知识、数学建模和数据科学比机器学习更重要。这是在所有领域,同样适用于EDA的需要。EDA主要是硬件产业的优化问题。我们一直设法,桥梁的人有良好的编程技能,但他们也理解硬件设计和如何创造良好的硬件。”

许多大学正在加大人工智能/毫升课程。“供应是有限的和有巨大需求的输出大学,”欧文说。“大学是意识到他们应该生产更多这种类型的毕业生,他们正试图这样做。可能需要几年来发展必要的技能的大学学位,但是我不是消极的,他们将高薪。”

让我们不要忘记,它通常大学产生变化。“大学一直在推动关键变化对非传统的计算体系结构在过去的10年中,”Alex Grbic说,把人工智能软件工程的副总裁。”除了在这些领域创新的温床,大学也在加大机器学习学位课程和大学毕业生的数量/深度学习。特别是,安大略省多伦多地区的大学和加拿大已经看到了需要解决它。”

然而,即使这并不解决半导体行业的需求。“机器学习是很酷的,但我怎么让它优势设备上工作吗?”法伦问道。“我怎么让它工作当我只有定点数学吗?我如何才能做得更好,当我希望能够真正把网络?我怎么能让它尽可能小的网络,而不是增加准确性1% ?我怎么调查潜在的准确性下降了1%,如果它只消耗了1/10的地区?”

这是实际的人工智能部署。说:“即将有一个差距猞猁的弗格森。”程序员在高级语言编写代码,假定无限内存和CPU周期提供的云。我看到一个缺口为人们创建优化的应用程序更多自定义应用程序,尤其是资源受限的电力或处理是有限的。虽然TinyML工作帮助很大,但仍然是一个空白。”

新课程设计。“我们正在组建一个课程叫边缘AI原则和实践,”欧文说。“这是针对本科生。以及覆盖基础,它将使学生做一些练习——不只是看图片和分段,但也类似的语音应用程序。我们几乎把语音识别,语音翻译,创造自然的演讲,这些天,边上是理所当然的,因为他们正嵌在几乎一切。”

工具是必要的一部分。“答案在于指导和自动化构建工具集人工智能工作负载的迁移与无限的《盗梦空间》在云中数值精度和计算资源,在推理在有限的计算设备,部署“手臂的罗迪说。“对于嵌入式开发人员,映射pre-trained量化模型到目标硬件,需要一系列的优化工具,专门到一个特定的目标。优化数据流,压缩模型权重,结合运营商节省带宽,等等。”

有人写的工具。”权力,性能和面积推动事情过去,”阿瑟顿说。“人工智能添加了第四个——带宽。神经网络真正消耗的带宽。你必须获取数据,您必须修改架构来提高带宽,减少面积,和权力一直是重要的同时推动性能。”

看不见的问题
公司还面临一些额外的问题,很少谈论。”还有另一个因素是影响我们,”萨哈说。“当我们发布一个产品的人工智能功能,当它不工作的时候会发生什么?你怎么弄清楚问题是什么?您不能运行调试器并找出这段代码不工作。你需要找出失踪了。该算法吗?它是数据?这是应用程序吗?它可能是更大范围的东西。 So now, the support people have to be data scientists and be able to understand where the problem may be found.”

招聘对于很多人来说是一个挑战。“鉴于AI程序员之间有着如此广泛的适用性,许多人追求事业家喻户晓的公司像苹果、谷歌和特斯拉,”弗格森说。“虽然这些组织拥有一个健康的员工流动,它让其它行业努力填补空缺在他们自己的组织。”

EDA争夺相同的人。“ECE毕业生谁足够了解芯片的类型,和硬件真的是如何工作的,和有一些软件和机器学习的知识,在高需求,”法伦说。“这些人想要对机器学习工作的行业,所以我们会看到很多的危机。”

结论
固件或底层软件工程师从未迷人。这些人很少考虑到信贷所完成,和行业已经看到很多例子,这个软件会降低公司的失败。而大学加大,不能满足的要求高调AI /毫升公司,课程的开发使它们可用的的问题似乎仍然有很长的路要走。

对于那些拥有必要的技能和不追求名声,财富可能是奖励。

相关的
Hard-To-Hire工程工作
危机找到熟练工程师完全走向全球。
拉伸的工程师
工程师的角色正在发生变化,他们需要拿起新技能如果他们保持有价值的团队成员。有几个方向去。
在半导体行业找工作?
全球芯片行业的工作
测试工程师供不应求
为什么这些工作如此难以填补。
工程人才短缺现在最高风险因素
新的市场机会和全球竞争力是有限的合格人才。