工业产品设计+智能产品软硬件开发+模具量产出货


023-68653856

15978927637

详细内容

智能硬件开发​人工智能需求怎样的硬件?

智能硬件开发人工智能需求怎样的硬件?

QQ截图20201116170740.jpg

美国投资公司Jefferies 最近一份报告称第四波核算浪潮现已开端,并且正遭到物联网和并行处理方案的发展的推进。自 20 世纪 60 时代以来,核算范畴的结构性改变一向都是由这一范畴的主要力量导致的。

在每次改变中,都会出现出新的解决方案供给商,并成为主要供货商。在这第四波核算浪潮中,最新的力量是英伟达及其用于高功用核算(HPC)和人工智能(AI)的并行处理渠道,即 GPU 和 CUDA 编程渠道。英伟达业务中数据中心部分的添加(从 2016 财年的 3.39 亿美元添加到 2017 财年的 8.3 亿美元)是这样的结构性改变的一个证明。人工智能和自动驾驶轿车的技能和产品需求是英伟达添加的要害推进力,并且这在广义上都和物联网有关。可是,物联网还有其它一些同样要害的安全和网络要求,不容忽视。

人工智能和并行处理的添加

让咱们先深入了解一下现在正在人工智能范畴发生的结构性改变。机器学习练习、推理算法和相关的技能是人工智能的基础,而这些算法现已存在了几十年了。而为英伟达等公司发明了巨量时机的转折点是:

智能硬件开发有了跨多个行业的很多有用的练习数据集;

芯片规划和工艺尺度的发展让与机器学习相关的并行处理的本钱和功耗特性达到了能够接受的程度。

跟着各种不同行业中许多不同类型的设备都越来越多地与互联网相连(换句话说便是 IoT 现象),生成的有用数据的量以及机器学习运用这些数据来改善这些行业中用户体会的才能都将遭到广泛的影响。作为 x86 CPU 的协处理器,GPU 能够为机器学习带来很多所需的并行处理。GPU 原本是为游戏和图形处理运用规划的。配合 CUDA 等多线程编程环境,人们发现 GPU 是最有用履行机器学习算法的最优挑选。

QQ截图20201116170748.jpg

第四波核算浪潮是由并行处理和 IoT 驱动的

GPU 中的多线程处理让咱们能够并行地履行类似的使命,而这对最有用地履行机器学习算法而言是至关重要的。这种处理方式十分不同于 x86 和 ARM 等通用型 CPU——这些处理器是为常见软件运用所需的单线程处理优化的,比如网页服务器和数据库处理。机器学习算法也需求处理很多练习数据,所以现代 GPU 也供给了高速高效的内存存取。

带有根据 GPU 的多线程处理的英伟达可编程图形适配器,能够加快图形和人工智能核算处理(来自英伟达 2017 年度投资者日的演讲)

尽管通用型 CPU 也能够被用于处理机器学习算法,但却无法供给必需的大规模核算功用。再加上跟着硅芯片工艺几许尺度的演进(也被称为摩尔定律),单位晶体管的本钱也在上涨,而 GPU 等为机器学习优化过的协处理器芯片就成了一种必需品。

安全性和 5G 将驱动第四波浪潮

至于物联网和第四波核算浪潮,在运用协处理器的并行处理的重要性上,人工智能和网络安全之间存在很大的相似之处。

咱们生活方方面面对遍及安全的需求只会被物联网进一步扩大。假如咱们看看近来的分布式拒绝服务(DDoS)进犯以及当今的设备(笔记本电脑和平板作为进犯点)能够如何被人侵入然后发起这样的进犯,你就能够想见当运用 IoT 作为进犯点发起进犯时,进犯作用将指数式地猛增。防备 DDoS 进犯的机制将不得不超越以往的规模,并一向延伸到数据中心服务器范畴,以便解决搬运 DDoS 所需的规模和速度需求。跟着数据中心中数据流量的添加,这种需求还会进一步扩大。

这一范式中的另一个要害改变是对流量可见性的需求,以便在网络流量上履行远程丈量或屏蔽流氓拜访流量。咱们现在就需求这种东西,并且跟着 5G 网络(带宽将添加 10 多倍)向新的行业敞开大门以在电信服务供给商网络上供给立异服务,这种需求还会加重。比如,各种类型的 IoT 传感器和自动驾驶轿车将会在智能手机等移动设备生成的数据之上添加更多数据。为了保证不同类型的流量得到不同水平的保护,将网络分红“片”的才能将变得至关重要。这将需求高速的流量分类和可见性。

Gartner 预测到 2019 年时一切网络流量中的 80% 都将被加密。用于加密这些网络流量的要害相关技能是安全套接层(Secure Sockets Layer/SSL)和安全传输层(Transport Layer Security /TLS)。当运用这些技能加密流量时,咱们就不可能取得所需的流量可见性。NSS Labs 的一项研究称在防火墙设备上解密 SSL 流量(以便完成流量的可见性)会让吞吐量损失 74%,每秒钟的交易量会削减 87.8%。当密钥更长时,SSL 解密引擎所需的作业负载中对杂乱流量的处理也将添加。这将对推迟功用和服务水平产生显著的影响。最佳的解决方案是不要在数据中心网络的设备中完成这样的功用(因为流量在这里聚合,它的瓶颈会有很大影响),而是将 SSL 加密引擎作业负载分布到一切服务器上。

智能硬件开发运用SmartNIC扩展安全

为了让数据中心服务器中的网络安全运用完成规模化、高功用和高功率,SmartNIC 渠道运用了一种优化过的协处理器 NFP,即网络流处理器(Network Flow Processor)。和 GPU 类似,NFP 是多线程的——单块芯片上有多达 960 个线程。类似于 GPU 上根据 CUDA 的多线程编程,SmartNIC 中的 NFP 芯片支持运用 C 或更高级的与供货商无关的编程方法(比如 P4 和 eBPF)进行多线程编程。和 GPU 类型,NFP 也能够并行履行多个使命。和 GPU 只能并行履行相似的使命不同,NFP 还能并行履行多个不同的使命——这是网络安全所需求的功用。

带有根据 NFP 的多线程处理的可编程 SmartNIC,能够加快网络数据包和安全性处理

运用多线程内存存取引擎,NFP 能够在很多内存上完成高速且低推迟的存取,然后可完成对很多杂乱流量的并行处理。最终,在人工智能范畴,Caffe 等深度学习结构能够运用在 GPU 上运转的代码库加快。类似地,在网络安全范畴,分布式虚拟交换、路由、防火墙、DOS、负载平衡以及其它安全和可见性结构都能够运用运转在 NFP 上的代码库加快。

数据中心运用协同处理层和多线程编程环境完成的可重装备结构

总而言之,对安全性和可见性的需求将愈发遍及,并且 DDoS 保护和 SSL 或 TLS 解密等技能也需求运用 COTS 和数据中心服务器以分布式的方式完成。在这种范式中,为了保证网络功用相关的服务的水平以及服务器的功率,运用协处理器的并行处理是至关重要的。和人工智能运用 GPU 等优化过的协处理器类似,为网络安全优化的协处理器将会成为完成物联网国际的第四波核算浪潮的一大主要力量。

为了完成可重装备的结构,咱们信任未来的数据中心服务器将具有两个协同处理平面——一个用于机器学习和人工智能,另一个用于网络连接和安全。这些协同处理平面将运用协同处理芯片中针对运用优化的功用(这些功用是为完成最佳性价比目标的服务器而规划的),然后为立异的多线程编程环境供给支持。

本文由智能硬件开发整理

生产中心:重庆市蔡家盈田光电工谷22幢3楼

研发中心:重庆市九龙坡区兴胜路4 号清研理工创业谷1508


hjzcxkj@163.com
023-68653856

重庆智能硬件开发,重庆软件开发,重庆工业设计,重庆产品设计,重庆外观设计,重庆结构设计,重庆物联网开发,重庆智能垃圾桶开发,重庆MTK方案商,重庆高通方案商,重庆单片机方案商,重庆系统开发,重庆智能手环开发,重庆工业设备开发,重庆音视频开发,重庆医疗设备开发请咨询重庆环洁智创新科技。

解决方案

官方微信
技术支持: 重庆冠辰科技-网站建设-专业网络优化 | 管理登录