建立芯片,可以学习

设备可以学习最优行为而不是依靠更通用的硬件和软件推动复苏在人工智能、机器学习和认知计算。但架构,构建和测试这些系统将需要广泛的变化,最终会影响整个半导体生态系统。

这些变化是众所周知的事情。需要更高的性能/瓦特和每个操作,因为所有的这些发展将推动一个巨大的增加需要处理的数据量和存储。其他变化不太明显,需要一定量的猜测。例如,芯片会是什么样子在“学”来优化数据在现实世界的环境?半导体行业用于测量可靠性的函数性能降低。相比之下,一个设计良好的自适应学习系统在理论上应该改善随着时间的推移。

这种转变将会进化的一部分,推出了随着技术的发展。有些人会更接近革命性的,基于人脑的功能,这是非常比任何技术开发更高效。在这两种情况下,在这个领域所做的研究和测试爆炸,特别是对于机器人等应用程序,数据管理和处理,工业应用,视觉系统在driver-assisted或全自动车辆。

“我们已经有很多讨论最近关于认知计算,”说,董事长兼首席执行官导师图形。“当我们出生时,我们的大脑中的所有细胞都是相同的。随着时间的推移,这些细胞分化成为视力等地区。的想法是,如果你开始完全相同(半导体)记忆细胞,可以专门用时间。和基于应用程序暴露芯片,存储记忆积累更多的数据。大脑主要是模式识别。人类与动物的区别是预测模式识别。需要层次的记忆和不变的记忆。所以你不存储每一个模式,但如果你看到一张脸在阴影中你仍然可以识别。人类的大脑,这比技术更有效。”

事实上,人类的大脑是节能在这12个数量级比最好的计算机体系结构,莱茵说。但在记忆和逻辑细胞的密度,半导体技术是越来越近了。越来越多的这种理解人类大脑和不变的记忆类型都使用相同的形式,无论多么recalled-is被应用到信息技术在大学,研究机构,在大公司的一大片的市场。

不过,尽管有很多算法,使设备上的研究学习,鲜有信息构建底层硬件的最好方法便于机器学习,人工智能和深入学习。今天,芯片的各种组件是基于功率基准测试,性能和成本对于一个给定的一组操作。这些指标被用来支持一个芯片的架构,他们影响从模拟计算机和数字计算机两种知识产权块选择,多少和什么类型的内存,信号路径是如何设计的,甚至会产生多少热量通过某种方式和如何管理它。

与体系结构,可以通过与现实世界的互动修改,并不是所有的这些方法的运用。什么是相同的是诸如提高性能的需求。处理器和内存之间的吞吐量,以及传感器和处理器之间,对芯片对真实世界的事件做出反应至关重要。这是一个最近的变化2.5 d架构。

“你需要存储状态变量,成为动态变化的基础上,”Mike Gianfagna说,负责营销的副总裁eSilicon。“这是每个人都在看2.5 d的原因之一。我们第一次看到高带宽内存由高端交流驱动的,但它是开始多样化,扩展到机器学习和自适应的计算。我们在中间的几个现在这些设计。这是真实的。”

Gianfagna说这些系统的共同之处几乎是一个稳定的数据,特别是在机器视觉和模式识别。“如果你有一只猫的照片,一只狗,和一个水箱,该系统可以指向一个列表可能的猜测。但它需要正确的。有数百万的角情况下,有些奇怪的角落案件。”

2.5 d / 3 d,以及扇出分区之间的问题死在一个包中。与此同时,也有很多关注芯片上的互联和高速缓存一致性。潜在的这些系统卷积神经网络(cnn),利用许多传感器收集数据,至少其中一些源发送到一个集中的逻辑过程,解释和反应。

“我们看到更多对加速度和计算的需求,”Jeff Defilippi说高级产品经理手臂的系统和软件组。“根据他们的位置,有不同的需求。我们看到更多的内容缓存从小型接入点与某种程度的情报了。所以你有一个连贯的片上底板连接的各种组件。它是连贯的片外。”

七companies-ARM、AMD、IBM、高通、Mellanox, Xilinx公司拥有形成了缓存相干互连加速器(CCIX),开发一个开放的加速度数据中心和其他市场的框架。目标是数量级减少延迟,更高的带宽,和更好的集成缓存。

“cnn将传输到内存之上,“Defilippi说。“这将是一个异构的环境不同计算元素融合在一起。”

cnn独立发展,以及在与自适应学习系统中,他们发现在从数据中心到driver-assisted车辆。

“cnn正在起飞的原因是它有效地说你不需要编写程序为了做复杂的模式识别,”Steve罗迪说,高级产品组主任抑扬顿挫的IP组。“挑战在于与人做高端模式分析识别,无论是寻找一个特定的脸在布鲁塞尔地铁摄像头或无论是验证你的脸当你走到前门,它会自动打开你的门你或无论是四个摄像头你的车在公路上超速70英里每小时拍摄高清晰度视频以每秒60帧,并试图找出其他车辆,在车道和速度信号说,等等。这是巨大的计算。”

学科融合,创造新的
这是事情变得更困难,。在半导体行业,多年来一直谈硬件软件合作设计。一些大芯片制造商已经掌握了这种同步发展的过程。在定义即将到来的全息透镜“混合真实感”耳机,微软杰出工程师Nick贝克指出,另一个技能是需要完成工作。

“我们过去合作设计经验的团队,我们的硬件团队和我们的软件团队,”贝克说。“他们使用算法从微软研究院,全息透镜的软件,从我们的硅和硬件团队。”

微软称之为“体验”团队使用不同的技能比发达的今天在计算机科学和电子工程。许多这样的系统需要不同的方式看待问题。

“你需要框架的问题,你可以使用的东西,”戴维斯说手臂的杰姆。“的创始人之一的胳膊问,‘我们如何思考这个问题?这是一个杀手的问题。正确地定下了基调提高的问题。有一些新的分类,如神经网络和机器学习的数据科学家?这些人需要分类和过滤数据。你可以做一个红头发之间的相关性和左撇子,但它不是有用的。我们必须问更好的问题。问问题是很重要的,但它可以帮助如果你问有用的问题。然后你可能会有用的答案。”

这是比看起来难。在某些方面,它结合了电气工程的最佳元素,计算机科学和哲学/社会科学方法问非常精确的问题。

说:“这些都是在复杂的交互Anush莫汉达斯·,负责营销的副总裁NetSpeed系统。“这是人类本能加上处理机器的能力。在某些情况下,人们试图手动调整复杂的系统,它从来没有一样好时由机器完成。但是还有其他的情况下,专家使用直觉基于深经验定位热热点,例如,然后想出一个更好的解决方案。最好的架构师理解为什么他们想出了一个解决方案,然后调整它。”

不只是一个技能与另一个。多种技能的组合,通常不会在一起。问问题使用一种自适应学习体系结构不了解设计的后果也会有问题。

“这些系统从经验中学习,所以这取决于你给他们说,总裁兼首席执行官OneSpin解决方案。从这些数据“棘手的问题是推广你想核实。你如何验证一只猫从一个形象?”

另一个挑战随之而来。几乎是不可能真正理解正在发生的事情在一个自适应学习系统。“如果你看看通用机器学习错误率和转化率,没有办法,以确保它们是准确的,”Brinkmann说。“验证这些系统是非常具有挑战性的。”

培训系统
解决这个谜题的关键之一是更好的培训系统。这可能需要更多的标准化的数据集。实验在这方面仍处于起步阶段。

“今天,我们正从编程学习,”阿齐姆诺尔说,技术营销经理Synopsys对此。“这都是启发式的,所以它不能被证明是正确的或错误的。有监督或无监督学习,但没有人签了一个系统的答案。这可能都是足够好,但不够好究竟是什么?”

他说,有效的培训系统需要更多的实际测试,在实际使用的硬件和软件。发生越来越多的卷积神经网络加速器,这至少是一个起点在数据收集方面。“你必须扩大从设计验证系统验证在现实世界中有最高的信心,系统反应正确。”

这需要一定程度的信心。实现这种信心,否则可能会使用这些技术只在边缘。所以当车辆可能能自己开车,他们可能仍然需要一个司机方向盘和刹车踏板。

“你可能有六、七个卡车,只有第一个由一个人,”查理Janac说,董事长兼首席执行官Arteris。“他们会被带到一个仓库的边缘城市和其他司机会拿起卡车和带他们去他们的最终目的地。”

但多远将系统设计师的信心真的走了吗?他们将舒适允许人们来定制他们的设备远远超出他们过去做过什么。Janac说一个有趣的问题,这部分是人们是否会与算法直接在用户界面交互。“我们要写代码或教机器吗?”

这个问题的答案也有很大的影响对系统架构。

“有两种策略,在这里工作,”Steve Teig说纪念品的首席技术官。”一个管是使用更高的带宽。第二个是送少管道。你可能需要两个,但如果你看看机器学习,你可能数据压缩的产品形象,另一方面是10 mb。所以即使数据压缩,你仍然需要更多的预处理得到更少的权力。如果你看看我们的眼睛、耳朵和手指,有大量的预处理。如果身体所有的数据接收发送到大脑,它将达到20瓦。手指可以确定冷或热的东西没有发送信息到大脑的过程。”

节奏顾问Cognite企业负责人,对此表示赞同。“我们正在处理大量数据。一辆车可以做几十次浮点运算。它曾经是足够的权力运行一个车库门。现在我们需要更多的抽象模型,你不再考虑程序的流。这是神经网络的结构以及如何操作的训练集。这是一个动荡的性质计算。”

他说,系统将需要比过去更多的并行性来处理这些算法快速有效。“在过去,如果我们有一个问题,这是典型的老问题新硬件。但在这里,我们有新问题和硬件是由软件超过在过去,称之为软件甚至不是准确的。这是构成问题。这是一只狗吗?路在哪里?这问题是分布式和并行。比旧的排序,这是很多不同的矩阵乘法器。许多芯片的特点是相同的。你仍然有标准电池,逻辑综合和高速I / O。 And you have a master CPU and multiple computational elements. But in the past, you believed all of this was compatible. Now there is much more opportunity for parallel architectures running under supervision, whether that is for virtual reality or deep learning or any other type of AI.”

这些系统最终会是什么样子,或者他们如何将函数仍比现实的理论。但至少人们开始以不同的方式看问题。这是一个非常大的第一步。

有关的故事
在机器学习第2部分堵塞漏洞
短期和长期的解决方案,以确保机器的行为预期。
机器学习第1部分缺少什么
教学机器如何做人是一回事。理解可能的缺陷之后,又是另一回事。
在人工智能和深度的学习
发生了什么在人工智能和今天的硬件跟上?
认知计算对芯片设计意味着什么
电脑,认为自己会比一般的SoC设计的不同;生态系统的影响将是巨大的。
卷积神经网络电力
采用机器学习方法的图像识别的生长;其他应用程序需要力量和性能改进。
解码大脑
将如何解码果蝇的大脑帮助我们建立更好的电脑吗?卢雅伯说,我们还有很长的路要走电子赶上图像识别。
在神经形态计算
一般视觉首席执行官谈到为什么有兴趣重燃这样的技术和在未来将如何使用它。