下一次颠覆

机器学习(ML)是一项固有的颠覆性技术，因为算法架构发展得如此之快，而且计算非常密集，需要创新的芯片来实现可接受的性能。这篇博客着眼于我们的过去和ML的未来——进入另一个准备颠覆的市场。

ML从数据中心开始

在ML爆发的早期——仅仅8、9年前——ML世界的所有活动都在数据中心。数据科学家不断发现新的网络架构，并在云中训练更大的工作负载。起初，他们使用可用的通用云计算CPU节点，但很快转移到更高性能的图形处理单元(GPU)卡用于ML训练。

不久之后，一种用于训练和推理的新型ml专用硅，如谷歌的张量处理单元(TPU)开始出现在数据中心。总的来说，在短短几年的时间里，ML的出现极大地重塑了数据中心的硅架构和该领域的硅供应商的名册。

ML出现在手机上

然而，机器学习并没有被困在云端太久。由于许多原因，ML工作负载迁移到各种设备和端点。最突出的例子就是移动电话。手机行业的动态是这样的，主要的硅玩家每年都会推出新的旗舰平台版本。多年来，cpu和GPU的基准性能一直是性能领先的试金石，尤其是GPU在游戏渲染方面的性能。但随后ML算法在2014-15年开始更频繁地出现在手机中，主要出现在计算摄影算法中，以改善手机照片和视频。

2017年，第一个专用ML加速器出现在苹果iPhone的A11 SoC中。2018年，iPhone平台出现了第二代神经处理单元(NPU)，以及向大型应用程序开发人员社区开放该NPU所需的软件api。这一反应是压倒性的积极，手机SoC开发人员之间的竞赛正在进行，他们将更多的ML性能推向手机。

快进到2022年秋天，最新的a系列手机处理器发布，现在的17 TOPS NPU出现在芯片照片中，消耗的硅面积超过了整个GPU子系统。在这短短五年的时间里，手机SoC的驱动力被突然出现的机器学习完全颠覆了。

ML的下一个重要半导体领域是什么?

首先，数据中心硅市场发生了变化。然后是手机SoC。其他几个小众硅市场也被机器学习的性能要求彻底重塑了。但是接下来呢大半导体板块会感受到ML的冲击吗?

你现在很有可能正在笔记本电脑或台式电脑上阅读这篇博客。2021年全球出货量的个人电脑中有91%是由x86处理器驱动的，这些处理器都没有像之前提到的手机soc那样专用的npu。二三十年前，台式机和笔记本电脑的用户和购买者非常关注为新机器提供动力的硅的馈电和速度。那些还记得GHz战争的人会记得网站、商店和商业广告中不断提升的处理器速度。

但那是整整一代人以前的事了。如果你今天用的是公司配发的工作用笔记本电脑，那么很有可能，如果它明天突然死机，你就不会关心或注意公司it部门交付给你的新笔记本电脑的主处理器规格。如果你的新电脑很快就出现了，一切都无缝运行，因为你所有的设置和文件都备份在云端，你一定会很兴奋。如果你的IT团队是一流的，你可以去吃午饭，然后回到一台简单工作的新机器，甚至不用看处理器规格。

你上一次仔细阅读工作笔记本电脑的核数、GHz和存储规格是什么时候?如果你是一名普通的企业用户或管理用户，那么你很可能已经有十多年没有关注存储容量和电池寿命以外的问题了。这些平台是无处不在的必要的生产力工具，但底层的硅却相当无聊。这种情况很可能即将改变。

生成式机器学习模型——例如Stable Diffusion 2.0和DALL-E——正准备从根本上改变为台式机、笔记本电脑和大多数平板电脑提供支持的已建立的、无趣的无处不在的平台。这种用于图像创建和增强的新一代生成式机器学习在过去九个月里迅速流行起来。这些新算法既可以根据文本输入描述创建全新的图像，也可以修改现有图像(添加、删除或混合对象)。像“宇航员骑马”或“加州熊队赢得全国冠军奖杯”这样不切实际的想法，对于没有艺术技能或Photoshop经验的新手来说，很容易就能创造出来。

(图片来自维基百科共享资源，由Stable Diffusion 1.0创建)

今天，这些工具几乎是普通商业用户每天都可以使用的，但它们需要的计算能力比标准的2000美元商务笔记本电脑要多得多。例如，Stable Diffusion 2.0运行在当今最顶级的1500美元桌面GPU外接卡上，运行在高性能PC上的512×512图像上，Sample Step为200，运行时间为2分钟。在标准的“商务笔记本电脑”上，同样的工作负载需要30多分钟。典型的用户没有耐心等待30分钟，更不用说迭代多次了。如果修改一个静止图像需要花费一个小时或更多的工作日，那么编辑一个短视频是不切实际的!该用户可以通过各种云计算资源在线访问这些工具，但如果频繁使用，成本可能会很高。[OpenAI——ChatGPT的创造者——在本月的新闻中以300亿美元的企业价值筹集了扩张资金。投资者正在哄抬该公司的价值，因为他们预期使用量和收入将继续快速增长!］

我们预测，对这些生成式图像和视频增强工具的需求将在一眨眼的时间内成为数亿商业和管理人员使用的常见日常工具。作为一名业务经理和营销内容创作者，我可以无数次地证明，当我想用幻灯片传达一些可以通过动画或图像或图像/视频序列来实现的东西时，项目不够大，无法保证花费和延迟去找外部创意艺术家机构来创作理想的艺术作品。如果可靠且无处不在的PowerPoint内置了一系列生成图像/视频工具，那么我尝试创建新图像的次数将会激增。或者想想技术文档(框图、流程图)可以通过无数种方式增强，以动画序列的形式传达更多信息。如今的文字处理工具已经具备了显著的文本预测能力，1月初发布的报告显示，微软正在考虑将OpenAI的ChatGPT集成到Office工具套件中，以大规模扩展这些产品的自动生成写作能力。

对于ML来说，丰富标准业务软件工具集的机会是无限的，但今天的硅平台严重缺乏ML推理计算能力，以使此类工具能够在笔记本电脑上以一种高效的方式运行，同时坐在30,000英尺高的飞机过道座位上。如果来自手机半导体市场的经验是一个适当的指南，那么我们可能会看到重型芯片的迅速出现。高度可编程的机器学习计算能力在硅设计的商业，消费者和教育笔记本电脑市场。事实上，在新年开始的时候，AMD宣布了下一代数据中心芯片，将人工智能加速与x86计算集成，并承诺在2023年晚些时候将以人工智能为中心的架构迁移到笔记本电脑上。类似地，英特尔的下一个Meteor Lake平台被广泛传闻将在芯片组中包含ML加速。

就像在手机市场上看到的各种ML设计方法的快速开花一样，人们可能会期望，适用于各种形状和性能水平的pc、笔记本电脑和平板电脑的SoC架构可能很快就会经历设计多样性的复兴，从而在一眨眼的时间里将这个细分市场从“无聊”变成“非常令人兴奋”。