安全是需要在人工智能环境。
随着人工智能(AI)进入每一个应用程序,从物联网到汽车,它带来了新的一波创新和商业模式,以及高档安全的必要性。各级黑客试图利用漏洞的系统,从芯片系统(SoC)。因此,安全需要积分AI的过程。AI系统的保护,他们的数据,为用户和他们的沟通是至关重要的安全和隐私,以及保护企业的投资。本文描述了在人工智能环境需要安全以及实现选项,以确保一个健壮的、安全的系统。
为什么需要人工智能安全在哪里
人工智能应用程序基于人工神经网络(ann,或者只是“神经网络”)包括两个基本阶段——培训和推理(图1)。神经网络的训练阶段是当网络是“学习”的工作,如识别人脸或路牌。由此产生的数据集的配置(权重代表神经元之间的交互)的神经网络被称为模型。在推理阶段,该算法体现在模型是应用程序部署到结束。
图1:深度学习的培训和推论阶段和人工智能。
算法用于神经网络的训练通常包括数据需要隐私,如何面对和指纹等进行收集和分析。该算法是一个大型的任何人工智能技术的价值的一部分。在许多情况下,大型训练数据集来自公众的监督,人脸识别和指纹生物识别技术,金融、私人和和医疗应用程序通常包含个人身份信息。攻击者,无论是有组织犯罪集团或商业竞争对手,可以利用这个信息经济原因或其他奖励。此外,人工智能系统面临的风险流氓数据注入恶意发送干扰神经网络的功能(例如,错误分类的人脸识别图像允许攻击者逃避检测)。公司保护训练算法和用户数据将在各自领域分化从公司遭受的负面公关和金融风险被剥削。因此,它是非常重要的,以确保来自受信任来源的数据只有在使用和保护。
模型本身,由神经网络权重和训练过程非常昂贵和有价值的知识产权保护。公司投资创建和建立这些模型想保护他们免受披露和滥用。程序代码的机密性与神经网络处理功能被认为是不重要。然而,访问它可以帮助某人试图反向工程产品。更重要的是,能够篡改这段代码会导致披露明文安全边界内的所有资产。
除了保护数据业务的原因,另一个强大的司机实施个人数据隐私是通用数据保护监管(GDPR)在欧盟生效5月25日,2018年。这个法律框架集的收集和处理个人信息指南。GDPR集数据管理原则的保护和个人的权利,和大型罚款可能对企业不符合规则。
数据和模型之间移动网络边缘和云,通信需要安全的和真实的。重要的是要确保数据和/或模型被保护,只有沟通和下载授权来源设备授权接收它。
人工智能安全解决方案
安全需要合并从产品概念在整个生命周期。当出现新的人工智能应用程序和用例时,设备运行这些应用程序需要能够适应不断变化的威胁。解决高档保护需求,安全需求是多方面的和“常用”从边缘设备结合神经网络处理芯片系统(soc)在这些设备上运行的应用程序,他们的数据到云上。
首先,系统设计师添加安全人工智能产品必须考虑几个安全推动者,基本属于绝大多数产品的功能,包括人工智能、保护所有阶段的操作:离线,在启动,并在运行时,包括在与其他设备或通信云。建立系统的完整性是至关重要的建立信任,系统的行为。
安全的引导,一个基本的安全功能,建立产品的软件或固件是完整的(“完整性”)。完整性保证,当产品的重置,它在做什么制造商——而不是一个黑客改变了。安全引导系统使用加密签名的固件,以确定他们的真实性。虽然主要的固件,安全引导系统可以利用硬件特性,比如加密加速器,甚至基于硬件的安全引导引擎来实现更高的安全性和更快的启动时间。灵活的安全引导方案最大化利用公钥签名算法与信任链可追溯到固件提供者。公钥签名算法可以使代码签字权,取而代之的是撤销和笔签名密钥,如果键是妥协。的基本功能,安全取决于根公钥安全引导系统的保护,不能改变。保护硬件保证根的公钥可以建立信任的身份,不可伪造。
最好的加密算法可以妥协,如果键不受保护的密钥管理,另一个基本的安全功能。高档保护密钥材料应该驻留在一个硬件信任的根。硬件的信任根权限和政策执行,应用程序层客户管理钥匙只能间接通过定义良好的应用程序编程接口(api)。继续保护密钥的密钥依赖认证进口和出口包装任何键。通用密钥管理API的一个例子为嵌入式硬件安全模块(HSM)是PKCS # 11接口,它提供了功能管理政策、权限和使用钥匙。
第三个基本功能与安全更新。是否在云边,人工智能应用程序将继续变得越来越复杂和数据和模型需要不断更新,实时。分配新的安全模型需要与端到端安全保护。因此,至关重要的是,产品可以更新一个可信的方法修复bug,关闭漏洞,发展产品功能。甚至可以使用一个灵活的安全更新函数允许消费后的支持可选特性的硬件或固件。
解决基本安全问题后,设计师必须考虑如何产品数据和系数的人工智能系统。许多神经网络应用程序操作音频、静态图像或视频流,和其他实时数据。这些大型数据集往往有明显的与他们相关的隐私保护大型数据在内存中,如DRAM内存,存储在本地磁盘上或闪存系统,是至关重要的。高带宽内存加密(通常基于AES)强烈支持的密钥管理方案是必需的。同样,模型可以通过加密和认证保护,支持强大的密钥管理系统通过硬件的信任。
以确保边缘之间的通信设备和云计算是安全的和真实的,设计师使用协议,将共同识别和身份验证,例如客户认证的传输层协议(TLS)。TLS会话握手执行标识和身份验证,如果成功的结果是一个双方认可的共享会话密钥,允许安全,认证系统之间的数据通信。硬件的信任根可以确保安全的凭证用于完成识别和身份验证以及数据本身的保密性和真实性。与云需要高带宽通信在许多实例。随着人工智能处理边缘,高性能安全需求预计将传播,包括需要额外的身份验证,防止输入神经网络被篡改,并确保人工智能训练模型并没有被篡改。
神经网络处理器SoC的例子
建立一个人工智能系统需要高性能与低功耗,area-efficient处理器,接口和安全。图2显示了一个高水平的安全的神经网络处理器的体系结构视图SoC在人工智能应用程序使用。神经网络处理器soc可以使用经过验证的IP实现时更安全。
图2:一个可信执行环境DesignWare IP有助于获得神经网络soc AI的应用程序。
嵌入式视觉处理器与CNN引擎
Synopsys对此EV6x嵌入式视觉处理器结合标量,矢量DSP和卷积神经网络(CNN)处理单元进行准确和快速的视觉处理。他们是完全可编程和配置,结合软件解决方案的灵活性和专用硬件的高性能和低功耗。CNN引擎支持常见的神经网络配置,包括流行的网络如AlexNet VGG16, GoogLeNet, YOLO,意思SqueezeNet, ResNet。
硬件安全模块与根的信任
Synopsys对此tRoot硬件安全模块与根的信任很容易融入soc设计和提供了一个可伸缩的平台提供多种安全功能在一个可信执行环境(三通)作为同伴一个或多个主机处理器,包括安全识别和身份验证、安全启动,安全更新,确保调试和密钥管理。tRoot保护AI设备使用独特的代码保护机制,提供运行时篡改检测和响应,和代码隐私保护而不增加额外的专用安全成本的记忆。这种独特的功能减少了系统的复杂性和成本允许tRoot固件驻留在任何不安全的内存空间。通常,tRoot程序驻留在共享系统DDR内存。由于它的机密性和完整性规定安全指令控制器,该内存实际上是私人tRoot和不受试图修改它源自其他子系统在芯片内或从外面。
安全协议加速器
Synopsys对此DesignWare安全协议加速器(SPAccs)是高度集成的嵌入式安全解决方案,提供性能提升有效的加密和认证功能,易用性,和先进的安全功能,如服务质量,虚拟化和安全命令处理。SPAccs设计师提供前所未有的可配置性,解决复杂的安全需求,在今天的多功能司空见惯,高性能的SoC设计等主要安全协议通过支持IPsec, TLS /迪泰,WiFi, MACsec和LTE / LTE-Advanced。
结论
AI将改变世界。人工智能带来难以置信的机会,有一些现在被意识到,其他人还在后面。人工智能解决方案提供商在研发资本投资显著,和模型的训练数据(独特的系数或重量)代表一个大的投资,需要保护。GDPR等新规定,严重担忧隐私和保密的数据,并在知识产权上的巨额投资神经网络架构和模型生成,公司提供人工智能解决方案应该率先实施安全流程在人工智能的产品和服务。
更多信息:
|
|
|
|
|
|
|
|
|
|
留下一个回复