异构计算将会为AI应用带来强大支持-51区未解之谜网

51区未解之谜网

未解之谜与世界之最,猎奇文章

首页 > 科学探索 > 异构计算将会为AI应用带来强大支持

异构计算将会为AI应用带来强大支持

时间:2018-12-04 20:54:48 作者:迷迷 来源:51区未解之谜网 手机阅读

除了算法和数据,异构计算将为人工智能应用提供更强大的支持,异构计算,尤其是加速器的开发和创新,将为行业、终端用户和初创企业带来更多无限的商机。  

在一个由灶神主持的餐厅吃饭。慢慢发球。一定要等待。因为只有一个灶神。但是在竞争激烈的市场中,人工智能技术的应用不能等待,否则它可能会被市场颠覆和淘汰。  

人工智能(AI)的研究已经持续了60多年,最近,人工智能已经呈现出一种爆炸性的趋势,不仅因为算法的改进和大数据的积累,而且由于计算能力的巨大改进和变化,企业和Inte。RNETGrand有自己的算法和数据,但它们在计算能力的获取上总是有一个很高的门槛。今天我们关注的是AI时代的计算能力。  

近年来,随着硅片物理极限的逼近和经济成本的增加,摩尔定律已经失效,传统的通用处理器方法已经不能满足人造int各种应用的爆炸性和高计算要求。因此,具有GPU、ASIC、FPGA或其他加速器(Accelerator)等高并行、密集计算能力的异构计算将继续成为热点,异构计算将成为支持更高级、更复杂的人工智能应用的必然选择。未来。  

异构计算(HeterogeneousComputing,HeterogeneousComputing)是由具有不同指令集和体系结构的计算单元组成的计算系统,它是一种平衡性能、成本和功耗的技术。它还允许最合适的专用硬件做最合适的事情,如密集计算或外围管理,从而实现性能和成本的优化。  

CPU(CentralProcessingUnit)作为一种通用处理器,我们熟悉的CPU(CentralProcessingUnit)更注重对控制流数据的支持,CPU的每个物理核中的大部分硬件资源都做成控制电路和缓存,以提高指令的兼容性和效率。真正用于计算的逻辑运算单元(ALU)只占CPU的一小部分。在没有AI或其他高计算能力要求的情况下,CPU可以应付更多的工作。在人工智能或计算能力要求较高的情况下,从计算任务执行效率的角度来看,虽然CPU可以与大量指令兼容,但实际计算效率不高。异构系统中核心功能的协调与控制。  

blob.png

打个比方,CPU可以看作是厨师,每个烹饪系的大厨都像手掌一样,可以做出各种不同口味的菜肴,以满足各种人的需要。但是因为厨师负责厨房的各个方面,他不能应付lar。葛数特种复合处理,如1000名客人食用各种马铃薯丝,如酸辣马铃薯丝、青椒马铃薯丝、油炸马铃薯丝,需要助手在短时间内切出大量相同长度和厚度的马铃薯丝。需要找到一个帮手(GPU,FPGA或ASIC)来帮助。这个助手可以同时处理许多土豆(并行处理),而且非常快(低延迟)。最后,通过与厨师的合理分工,可以满足顾客对菜肴的需求。  

也许有人会说,雇用另一个厨师来组成一个同质的厨房(均质计算)不好当然,这是多CPU以前所做的,但是基于目前基于AI应用的计算密集型负载,这种同构厨房具有明显的缺点。首先,厨师很贵,而且他们不擅长某些特定的应用,比如快速切土豆丝。其次,厨师是健忘的,需要经常查看菜谱(访问记忆)。因此,一个高效的厨房需要厨师和一群擅长各种任务的厨师之间的有效沟通和协作。  

我们知道,在异构计算厨房中,除了主厨CPU之外,还有很多辅助设备,如GPU、ASIC、FPGA、DSP等,那么这些计算单元的优势是什么  

GPU是图形处理单元的缩写。顾名思义,它是一种专门处理个人计算机、工作站、游戏机以及一些移动设备(如平板电脑、智能手机等)的图像的微处理器。其主要原因是它适合GPU的多核结构,用于大规模多任务的简单操作,如神经网络。这就像成千上万的客人同时点了酸辣的马铃薯丝,他们需要很多帮助才能快速地切出数万盘马铃薯丝。  

然而,尽管GPU能快速而好地切土豆,但是如果你想告诉他切多少土豆,切多少土豆,再加入多少青椒,那么你就到冰箱里去买些猪肉,做一道复杂的菜,这超出了你的能力。复杂的控制过程会产生大量的分支,而GPU中的控制单元负责多个计算单元,因此,如果要使用GPU,就必须有简单的指令,尤其是控制分支越少,效果越好。  

此外,GPU还有CPU厨师的问题:健忘(需要从内存中读取指令)。这带来了一系列的问题,如存储墙、高功耗、基于指令系统、解码等。  

专用集成电路(ASIC)的全称是应用专用集成电路(ApplicationSpecificIntegrationCir.),它是定制的,这意味着不需要纠缠于CPU和GPU如何分配控制资源和计算资源,以及如何分配这些资源。  

编程语言越接近底层硬件,其运行速度就越快。所有的ASIC设计都直接建立在物理硬件(门电路)上。同时,由于具有高度定制性,可以设计用于PPA优化的芯片(PPA是性能、功耗和面积的缩写)。  

这样,ASIC就像一个全自动定制马铃薯切碎机。你只要把土豆扔进粉碎机,土豆丝就会很快被切掉,形状一致性好,能耗低,节省空间。  

可以看出,这种定制的机器是厨房工件,它已经赢得了CPU和GPU。但是定制的机器也有它的缺点。如果顾客想改变口味,吃土豆和烤鸡,他们需要把土豆切成块。这样,切割机就没用了,市场上也没有现成的切割机,需要重新定制。  

现场可编程门阵列,或称现场可编程门阵列,是在PAL、GAL、CPLD等可编程器件的基础上进一步发展的产物。关键字是可编程的,这意味着灵活性。E可用于布线资源。当顾客需要土豆丝时,他们可以定制为碎纸机。当他们需要马铃薯片时,他们就会变成碎纸机。而且,正是由于FPGA中大量的可编程逻辑使得它可以真正并行实现。不同的处理操作不需要竞争相同的资源。每个独立的处理任务都配备有专用电路,可以独立操作,不受其他逻辑块的影响,因此,当增加更多的处理任务时,不会影响其他应用程序的性能。  

当然,在FPGA的开发中也存在着不足之处,主要问题在于开发上,大多数异构算法的开发人员都是软件人员,对FPGA和数字电路的结构缺乏了解,编程语言也不统一(CPUenD是C、C++;FPGA端是VHDL、Verilog等底层硬件描述语言。目前对该问题的解决方案是OpenCL和HLS(高级综合)技术,支持C和C++代码直接编译成Verilog。目前,这些技术的成熟还需要一段时间,转换效果还有待提高。  

总之,一个有效的人工智能计算能力(厨房)系统对每个人都是必要的。这个厨房需要有经验的厨师(CPU)和熟练的厨师(加速器)。在厨师的协调指导下,在各自展会实力的帮助下,进行有效的合作,从而做到饱满。充分满足顾客不断变化的美味菜肴需求。  

CPU和加速器之间协作的一个好例子是使用IBMPOWER9处理器的新一代服务器。POWER9是为当前和未来计算密集型AI工作负载而设计的。它是嵌入PCI-Express4.0、新一代NVIDIANVLink2.0(GPU和CPU之间的无缝连接)和OpenCAPI25Gbps(PCIe3.0的3倍吞吐量)中的第一个通道,这是支持异构的最现实的着陆实体。计算。  

当然,除了支持异构计算之外,POWER9服务器还优化了AI负载,例如大大提高了诸如Chainer、TensorFlow和Caffe等主要AI框架的性能,以及加速了诸如Kinetica之类的数据库。速度更快,包括深入学习洞察力、实时欺诈检测和信用风险分析。POWER9也是美国能源部首脑会议和塞拉利昂超级计算机的核心,它们已成为世界上最强大、最智能的超级计算机之一。此外,谷歌还采用了基于POWER9处理器的异构计算平台,用于各种复杂的人工智能负载。  

除了算法和数据,异构计算将为人工智能应用提供更强大的支持,异构计算,尤其是加速器的开发和创新,将为行业、终端用户和初创企业带来更多无限的商机。  


1 2 下一页

相关文章

  • 原来好友之间也存在相似的DNA
    原来好友之间也存在相似的DNA
    美国研究学者们采样1932个受访者的基因组,进行朋友和陌生人两种基因配对分析比对,发现相较于其他陌生人,通常好友们的基因会跟自己有些许相似度,这群人除了在社交往来......
  • 宇宙中最难以解释的谜团 有高智慧的外星人存在吗?
    宇宙中最难以解释的谜团 有高智慧的外星人存在吗?
    前两天斯蒂芬·霍金逝世了,霍金一生致力于研究和探索宇宙,他的离开绝对是人类的一大损失,千百年来人类一直在试图探索宇宙,并且想要解开一些困然多年的谜团,比如说黑洞的核心是什...
  • 宝马5系插混电驱无忧、充电便利
    宝马5系插混电驱无忧、充电便利
    道路还很漫长,为了进一步发展新能源汽车,有必要与燃油汽车展开正面战争。作为新能源汽车,插电式混合动力汽车是燃油汽车的唯一功能替代品。燃油车主如何理解这一点 近日,《中...
  • 英仙座星发现神秘光带可能为暗物质
    英仙座星发现神秘光带可能为暗物质
    天文学观测发现2.5亿光年远英仙座星系团存在一种神秘的光谱线,无法用现有物理理论解释而提示为暗物质的存在现象,因此激发天文学家的种种推测。据天文学网站“每日......
  • “天眼”FAST真的能找到外星人吗
    “天眼”FAST真的能找到外星人吗
    9月27日最新消息,世界最大望远镜FAST已经竣工,其500米的口径更是让人叹为观止,那么这款被外界称之为天眼的望远镜真的能找到外星人吗?如果“天眼”FAST真的能找到外星人,人类又该如何面对呢?在了解这件事前,我们先来了解一下“天眼”FAST的相关功能吧。...
  • 中国研制出最小导弹:袖剑微型导弹
    中国研制出最小导弹:袖剑微型导弹
    在今年珠海航展上面,中国相关单位展出了袖剑微型导弹,它主要对付轻小型无人机,并且可以打击地面目标,是目前已知国内最小的导弹,在国际上面也属于顶尖水平。...
  • 宇宙中十大诡异天体 僵尸恒星会起死回生?
    宇宙中十大诡异天体 僵尸恒星会起死回生?
    宇宙中十大诡异天体,宇宙之中存在有很多诡异的天体,在目前人类发现的已知天体中以下十个天体可以说是最为诡异神秘的,宇宙中十大诡异天体分别是:黑寡妇星云、索隆魔眼、地狱行星、猩红之月、僵尸恒星、猎户座的蝙蝠、NGC 3393、小幽灵星云、土卫一、吸血鬼恒星,下面让我们一起去了解一下宇宙中十大诡异天体。...
  • 2016年地球毁灭?彗星撞地球可能性以排除
    2016年地球毁灭?彗星撞地球可能性以排除
    近日,有科学家发出警告,预计在2126年有一颗来自宇宙的超级彗星会撞向地球,到时将会给地球带一场物种大灭绝的灾难。但是,后来科学家根据最新数据研究得出,这颗超级彗......
  • 2017年人类可以在太空作战了?
    2017年人类可以在太空作战了?
    随着人类军事科技的水平越来越高,很多国家在很早以前就已经布局太空战,首先提出太空作战的是美国和俄罗斯,随后中国和西方国家都开始对太空作战的必要军事装备的发展,...
  • 半人马座阿尔法可能有适居星球
    半人马座阿尔法可能有适居星球
    半人马座阿尔法(Alpha Centauri),按二十八星宿称为南门二,是离地球最近的恒星系统,大约4.37光年。它由三颗恒星组成,包括著名的比邻星。作为最近的恒星系统,科学家一直...
.

科学探索

热门文章

热门文章

今日最新