18.luck新利
的意见

让AI跑得更快

为什么推测下一个战场。

受欢迎程度

半导体行业已经认识到这一事实异构计算是前进的,推测将需要更多的比GPU和CPU。对于数字30左右公司工作在这个问题上100倍的性能改进。

但是怎么没有这么简单。它需要四个主要变化,以及其他一些建筑的转变。

第一块这个谜题是处理器。这是一个明显的一个,这就是大多数人思考时,改进的性能。在处理器方面的问题是,虽然可以得到超过100 x的性能,算法改变过快来构建一个ASIC的快。人工智能芯片需要编程,这对性能有影响,如果算法大大改变它将更多地依赖的可编程部分,减少硬连线逻辑。

导致第二块,软件或在这种情况下,推测数据加权在人工智能的训练阶段。有一些业内人士讨论今天的算法是否成熟和稳定,还是算法将不断在变化。目前的想法是他们将永远被更新,就像今天软件打补丁。

什么将会改变,可见性的算法。今天,这些基本上都是黑盒。创建一个公司在其产品销售人工智能的问题,因为如果出现问题他们没有看到什么导致了错误的方法。AI推论适应使用模型,这是这项技术的大景点之一,但是公司需要了解如何适应和为什么。此外,他们需要一种方法来确保行为的适应属于可接受的参数无论他们出售。

需要一个数据结构的变化,这将导致第三个难题piece-how数据与记忆。在一个人工智能芯片、处理器和本地化的记忆是散落在死亡或包。但数据也可以存储模式而不是单独的部分,并且它可以读或写在四directions-up,下,左,右。冷凝数据模式也可以帮助在处理方面,在每周期可以处理更多的数据。

第四部分包括吞吐量,包括处理器和记忆之间的运动数据。大多数芯片制造商正试图限制芯片上的数据移动,这是多个处理器背后的想法和记忆。芯片之间是另一回事,这就是高级包装可以产生很大的影响,因为它提高了带宽和缩短的距离信号需要旅行。

神经网络可以帮助显著的应用程序中有多个传感器,如半自治或全自动车辆。cnn尤其适合计算机视觉。复发性神经网络是必不可少的在时间维度是一个关键因素,如安全或毫升/航空应用程序。但是在所有情况下,数据收集需要擦洗尽快是什么有用的,这就是性能往往会陷入困境。在这一点上,没有明显的解决方案。

其他地方性能使人深深陷入试图找出什么是足够准确的接受行为分布,以及如何限制,当没有必要的精度。稀疏的数据有80%的准确度比一个更完整的数据集跑更快有99.9%的准确度,处理数据,它需要更少的能量。

所有这些因素发挥作用在加快推论芯片中,并没有一个单一的变化将使AI系统运行更快。但把所有的碎片在一起正确和100 x改善性能或少权力很可能是保守估计。可以有很大的影响在哪里和如何使用人工智能,和哪些公司将成为下一个冉冉升起的新星。

有关的故事
人工智能体系结构必须改变
使用人工智能应用程序的冯诺依曼体系结构是效率低下。什么将取代它呢?
安全漏洞在机器学习和人工智能
机器学习的主要目的是使用机器训练其他机器。但是如果有恶意软件或其他的训练数据的缺陷?
使用asic AI推论
如何加快人工智能在边缘设备和数据中心。



留下一个回复


(注意:这个名字会显示公开)

Baidu