可信数据的新设计

最近，我写了完全同态加密(从现在开始)我认为这将是一件大事，你将在未来听到很多关于它的消息。

以下是我认为它会大卖的原因。最关心安全的人，如金融机构、政府和拥有大量有价值数据的公司(如半导体公司或社交媒体公司)，不能只依赖网络和数据中心的安全。

丽莎·波特(Lisa Porter)是美国国防部负责研究与工程的副部长。以下是她去年年底的一段话:

不管计算机网络或它所使用的环境看起来多么安全，用户都应该假设它已经受到了损害。
.．.
根本就没有所谓的安全系统。用户应该假设网络已经受到了损害——要么来自外部，要么来自内部的不良行为者。

事实上，这句话是她思想的核心，我引用的那篇文章的标题很简单国防部官员敦促，假设网络遭到破坏．

Cornami

我采访了Cornami的首席执行官沃利·莱茵斯。他告诉我，他一直在调查工业界是否在为国防部做完全同态加密的事情。但无论他走到哪里，人们都说这还需要10年或20年的时间，需要达到至强或英伟达最好性能的100万倍，所以他反馈说，他认为这不会发生，而且这个项目的资金没有与业界发生任何冲突。然后沃利遇到了戈登·坎贝尔。他是第一家无晶圆厂半导体公司Chips and Technology的创始人兼首席执行官。你可以在Dan Nenni和我的书的第4章中读到更多关于半导体历史的信息无晶圆厂:半导体产业的转型(链接到免费pdf文件)。他创办了一家软件公司，现在是一家名为Cornami的混合软件/硬件公司(“核心海啸”)。我就不讲整个历史了，但他告诉沃利他们唯一能做的革命性的事就是FHE。沃利说:“我听说过，我不相信你能做到。”但是他们已经有了一个基于fpga的芯片模拟器18个月了。所以沃利花了几个月的时间评估这项技术，并确定它是真的。

“这是革命性的，”沃利说。

“你为什么不加入我们?”对方回答道。

他照做了。他的时机不太好，因为他是在3月初开始工作的，当时所有人都在家工作，风险投资家们停止了对任何新事物的投资，直到他们意识到现有投资需要多少后续资金。再加上风投投资了太多的人工智能芯片。就像一位风险投资人曾经对我说的，“风险投资人让绵羊看起来像独立的思想家”。

科纳米有点隐身模式所以沃利说他得有点闪避。但有些事情已经被披露了。他们在去年秋天的林利会议上发表了演讲，我也参加了那次会议。他们的大部分演讲都是关于通用人工智能的，他们没有提到FHE，他们对芯片的内部结构也含糊其辞。但他们在ResNet-50上确实展示了一些令人印象深刻的表现，即以1/7的功率和1/70的延迟，比NVIDIA当时最快的GPU快17倍。

Linley分析师迈克•德姆勒的结论是:

自2014年成立以来，Cornami很少披露其构建可配置AI处理器计划的细节，但在最近的林利Fall处理器会议上，它展示了基于FPGA原型的性能结果。使用半精度(FP16)浮点运算在224×224图像上运行ResNet-50推断，开发系统预测初始产品的图像速度为每秒105,000张，预计仅需要30W。虽然这一结果来自于周期精确测量，而不是实际的芯片，但它相当于NVIDIA V100 GPU性能的16倍。Cornami基于单批推理进行估计，使其结果更加令人印象深刻，因为V100的批大小为128。

尽管该公司保留了大部分架构细节，但新处理器将集成一组可编程核，由专有的片上网络(NoC)连接，允许动态重新配置，以满足单个神经网络层的计算要求。Cornami并没有将其产品描述为FPGA，但我们预计它应用了一些创始人早在15年前就在Quicksilver technology开发的可编程逻辑技术。

设计是由软件创新驱动的。Fred Furtek开发了一种独特的编程模型，可大规模扩展，解决目前多核芯片完全独立流的低效率问题。FHE(和机器学习)有大量的库，如Microsoft Seal和IBM的HLIB(以及用于机器学习的PyTorch等)。因此，所有东西都不必在C源代码级别上操作。“这就是为什么你可以在台积电16nm芯片上获得一百万倍的性能，没有什么特别的。”

设计经理是前cadence公司的Syed Ahmed。我询问了工具流程。物理设计和形式都是Cadence。钯金?“我们买不起模拟器，所以我们必须自己开发FPGA来进行所有测试。”Wally承认这是一个挑战，因为与模拟器相比，调试FPGA的芯片逻辑真的很难。

该设计已接近完工。与此同时，沃利和戈迪正在挨家挨户地寻找主要投资者。

我们正在与验证团队竞赛，看他们能否在我们筹集到支付胶带的资金之前完成验证。

该设计是线性扩展的，因此很容易通过添加另一个芯片来获得更好的性能。“这就像记忆，很容易添加更多。”我们可以把它看成一个可重新配置的收缩阵列。Cornami芯片实际上是一个可配置的计算结构，由数千个FracTLcores组成，可以在一个系统中扩展到数百万个。这些可以以各种方式进行配置，包括动态创建一个用于递归的RISC处理器，以及其他在FracTLcore环境中无法完成的事情，在FracTLcore环境中，您需要冯·诺依曼处理器。但它是在软件控制下动态重新配置的，所以你总是有正确的组合。Cornami实际上引入了软件编程模型，首先称为TruStream，但很快决定将其放在硬件中，以最大化其价值，并通过核心计数实现真正的线性性能。

市场

Wally告诉我的另一件事是，令人惊讶的是，许多公司都有自己的团队在研究同态加密(HME)。每个金融集团都已经在做一些事情了。微软正在引入一些HME用于投票，因为简单地将选举投票加起来在普通计算机上运行得相当好。如果“数据是新的石油”，那么FHE就是水力压裂法之类的东西，它可以释放数据的价值。它可以让你精确地控制谁可以用你的数据做什么，即使计算机、网络和人员不值得信任，也不会解密或暴露底层的个人或机密数据，从而使他们无法绕过。所以潜在的是解决两个圣杯问题。首先，将大量的基本计算机功能组装起来，以提供无限的计算机性能。第二，采用大量不安全的技术，为所有底层数据提供无限的安全和隐私，无论是个人数据还是其他机密数据，而从不解密这些数据。

当然，我对设计的了解还不够多，不能确定一切都会很好。毕竟，几年前我认为波计算的设计令人印象深刻，但他们最终倒闭了(见我的帖子)波计算:用于深度学习的数据流处理器)．关于“大脑”的结论还没有定论(见我的文章)热芯片:世界上最大的芯片，或者在差不多一年后的下个月DAC上看到他们的主题演讲)。每年夏天出现在HOT chips上的任何数量的薯片看起来都好得令人难以置信，有时确实如此。所以，时间会告诉我们更多。但Cornami有一些想要评估和采用这项技术的潜在客户:银行、医疗、军事……所有这些都以进展缓慢而闻名，但现在都想要快速发展。