提供一个AI加速器的生态系统

人工智能系统的关键设计区域的机器学习(ML)算法可以在硬件加速实现功率和性能目标。团队设计这些算法发现迅速,传统的RTL设计流程将不再工作如果他们想满足他们的交货时间。的算法经常受频繁的变化,性能需求可能会发展,融入目标平台方面的可能会改变在设计周期。更复杂的是,设计团队需要重新编码RTL探索能力,性能,和面积权衡。是否需求变更或设计空间探索,每一个变化到源设计需要重新启动整个设计和验证过程,导致不可接受的延误生产进度或错失的机会去探索和创造更好的硬件(图1)。

图1:变化导致延迟RTL流。

相反,这些团队变成一个高级合成流,如提供的弹射HLS平台,设计并验证毫升加速器和连接系统。平台提供了一个完整的设计和验证流从c++生成能力和工艺优化的RTL。

引入人工智能加速生态系统
弹射器HLS平台提供了一个行之有效的工具流集成电路设计师。但是,导师已经跨出了一大步,提供了一个人工智能加速生态系统(图2),为人工智能设计师提供一个环境来启动项目。

图2:AI加速器的生态系统。

IP库建在专门的数据类型
生态系统包括一个丰富的IP库,使硬件加速更快的路径通过提供易于理解的,高质量,基本构建块可以被合成到FPGA, eFPGA或ASIC技术。这个库是建立在专业的基础上为任意长度整数数据类型,定点、浮点和复数,允许代码相同的合成为硬件出现行为作为c++模型。IP库包括:

• 算法C数学库:定义synthesizable c++函数为数学运算符通常标准c++中找到math.h头以及一个c++类矩阵和线性代数函数。
• DSP算法的C库:定义synthesizable c++函数DSP设计师通常需要,如过滤器和快速傅里叶变换(FFT)。
• 图像处理算法的C库:首先定义一些常见的像素格式类型定义。这类利用c++模板参数配置颜色深度和格式(RGB, YUV)。图书馆提供各种功能模块用于图像处理包括颜色转换,边界处理,和窗口类用于二维卷积。

工具包
AI加速器生态系统提供了现实世界的工具包,测试团队可以研究技术的例子基于硬件加速的参考设计,修改和复制到启动项目。这些工具包括可配置的c++ / SystemC IP源代码,文档,testbenches,和脚本设计通过HLS合成和验证流。工具包演示试验权衡各种方法和编码技术性能(延迟),帧速率、区域,或力量。当前可用的工具包括:

• Pixel-pipe视频处理工具包:演示了一个使用Pixel-pipe加速器实时图像处理应用程序。块缩小图像,把它从颜色单色来进行边缘检测,然后up-scales形象。
• 2-Convolution工具包:代码演示了如何Eyeriss处理元素(PE)数组在c++中实现二维卷积进行图像增强(锐化、模糊和edge-detect)。处理元素可以执行一个3×1乘以积累(卷积)。垂直叠加处理元素产生一个3×3卷积的内核权重确定图像增强的表现。
• tinyYOLO对象分类工具包:显示一个对象分类应用程序使用卷积加速器引擎实现体育从二维数组Eyeriss工具包。它是基于tinyYOLO(“你只看一次”)神经网络体系结构,它包括一个视频图像预处理块规模在执行之前对象分类。工具箱显示了如何获得高速数据路由通过AXI4互连和演示了如何定义一个高性能内存架构。工具箱提供了一个集成为推理TensorFlow测试的网络层在c++中实现。

系统集成
一个加速器块不生活在隔离;它需要被连接到一个系统。弹射HLS提供界面合成添加定时协议不计时的c++函数接口变量。设计师只需要设置协议体系结构约束的弹射器GUI。该工具支持典型的协议(如AXI4视频流,请求/承认握手,和内存接口。这允许设计师探索接口协议不改变c++源。

支持系统集成、全功能设计的人工智能加速生态系统提供了一组例子:

• AXI例子:展示如何实例化一个或多个加速器组件使用AXI AXI SoC中的子系统接口IP弹射HLS生成。主人,奴隶,和流媒体的例子是可用的。
• 基地处理器的例子:显示了如何将ML加速器连接成一个完整的处理器的系统,它使用阿喜的例子。毫升加速器在此示例使用一个简单的乘法/积累架构与二维卷积和马克斯池。数3^{理查德·道金斯}方处理器IP支持模型和软件流程(相关数据)包括裸金属编程。

得到帮助
设计团队会发现他们需要帮助与他们的项目和生态系统在很多方面提供帮助。一些例子包括:

• 按需培训:提供一个结构化的、自学、网上培训经验,学习如何有效地使用这些工具。
• 研讨会:提供世界各地的生活然后捕获视频随时在线访问。
• 咨询:提供现场帮助获取工具流融入团队的环境以及帮助设计c++算法最优合成。

结合AI加速生态系统与高级合成允许团队发布他们的人工智能项目。生态系统的范围广泛的产品激发团队在任何级别的经验来选择他们需要更快地向市场推出他们的项目。

去了解更多关于人工智能加速生态系统,看到这个白皮书。