如何优化性能和ROI最大化的新设计。
早在2017年,我在博客中写道人工智能不是asic asic。的一个主要原因不是调用ASIC是因为历史上ASIC或人工智能加速芯片特定于应用程序的集成电路指一个固定硬件块有限的可编程性。AI ASIC另一方面通过框架如Tensorflow和提供重要的编程观点是,他们不是完全ASIC在这种情况下。
快进五年,它似乎AI ASIC越来越特定于应用程序的,虽然比历史更可编程ASIC的定义。是什么改变了?嗯,几个事件发生。英伟达和英特尔芯片中斩获了数十亿美元的销售。GPU和CPU都提供一个稳定、通用架构AI加速度与扎实的软件基础和大量的开发人员。每个人在业界已开始使用gpu和cpu芯片,因为他们是唯一解决方案稳定足够的用于开发和生产。英伟达和英特尔也倒在数十亿美元的增强软件栈为AI加速度使他们的解决方案更适合。结果是,如今大多数的人工智能生产系统CPU或GPU上运行。除了几个解决方案从谷歌和亚马逊,他们是唯一的架构,可以运行几乎所有的人工智能软件和神经网络(NNs)今天。
AI asic从初创企业同时有延迟。芯片市场应该是到2018年,直到2020年。初创企业继续筹集资金,但关注tape-out让芯片市场而不是软件栈。而不是投资资源支持每一个人工智能应用和神经网络,他们选在一个或两个最好的显示芯片和提交给客户和投资者。
神经网络也继续发展。cnn,热商品在早期的AI复苏,得到变压器结构所取代。LSTMs RNNs开始消退。视觉变形金刚现在显示的承诺无cnn甚至在计算机视觉的世界。这些人工智能ASIC加速神经网络的体系结构热设计开始的时候。两年延迟达到生产意味着可以改变一种新的神经网络的体系结构加速度。所以对于这些初创企业,它的修改和采用新得到的编译器设计的芯片架构。
花几十亿参数神经网络和优化它的对于一个给定的架构是AI ASIC设计更具挑战性问题。错综复杂的编译器和优化图书馆是更加困难比估计和资本密集型ASIC初创企业。因此而不是试图解决每个神经网络类加速度,初创公司拍摄了一组应用程序和用例和优化它的芯片。这帮助他们专注和创建优化软件链而不必花费数十亿美元。
这是很明显的MLPerf页面。如果你看看结果,没有启动提交结果所有类别的模型,因为结果不好看或者因为在某些情况下得到可能甚至在体系结构上运行。
这里有一些例子的芯片的优化来解决一个或另一个问题。
换句话说,而不是成为一个通用的ASIC加速每个神经网络类型,这些ASIC演变成更特定于应用程序的性质。需要数十亿美元的投资软件堆栈使他们当前市场领导者的质量。的资金,让他们关注NNs可以提供最佳的性能和最大化盈利的机会。毕竟,比赛是关于性能,能够运行在最短的时间内尽可能多的得到。
|
|
|
|
|
|
|
|
留下一个回复