datasheet

立志冲破行业格局的三大国外AI芯片公司

2019-07-11来源: EEWORLD关键字:Graphcore  GreenWaves  Gyrfalcon

长期以来,计算机硬件和软件的创新是相互推动的,人工智能已经成为最新的驱动力。许多行业开始关注运行深度学习系统的硬件,而现有的人工智能芯片的局限性也日益明显。这导致有越来越多的投资者相信,人工智能可能是创建新兴的半导体公司的独特机会。

 

而且从长远来看,人工智能能力的产品的部署势头将继续增强,但需要越来越复杂的半导体设备来支持新一代智能产品。本文着重介绍了三家半导体厂商——Graphcore、GreenWavesTechnologies以及Gyrfalcon Technology Inc(GTI),它们提供创新的AI芯片,以推动这一趋势。下面就让我们一窥他们的真正实力。

 

英国AI芯片独角兽Graphcore—IPU将成为未来趋势?

 

Graphcore作为英国人工智能芯片硬件设计初创公司致力于为机器学习开发者制造专用的硬件和软件框架,用以加速AI应用,Graphcore的目标是成为“机器智能处理器市场的领导者”,这家公司的产品叫做IPU(Intelligence Processing Unit)智能处理单元,它的成长速度之快令人为之惊叹。

 

Graphcore成立于2016年,主要业务是开发深度学习程序所需要的芯片。随后,便完成了A轮3000万美元融资;在2017年11月,他们有收到了资本方的追捧,融资金额为5000万美元。2017年,Graphcore再度完成了3000万美元的B轮融资,领投方为Atomico,现在,他们有完成了2亿美元的D轮融资,在完成本轮融资之后,该公司的估值达到了17亿美元。

 

在众多神经网络芯片的初创公司中,Graphcore 凭借处理同一块多核芯片上的训练及推理问题的多核方法鹤立鸡群,其中他们的旗舰智能处理单元(IPU)有着非常大的吸引力。

 

Graphcore 开发的是一种新型智能处理器IPU可以用来帮助加速AI应用计算。他们开发了一套可以帮助用户无缝使用 TensorFlow和 MXNet 等机器学习框架的接口,并提供了AI开源软件框架 Poplar。与GPU不同,Graphcore 所设计的IPU是专为机器学习系统打造,比同类产品的性能提升了 10~100 倍。这种AI芯片应用广泛,包括自动驾驶、云计算以及机器人等领域。

 

Graphcore的IPU有着丰富的功能,它能够提供高效的机器学习功能,这与很多程序都很吻合,例如智能语音助理和自动驾驶技术等。它既可以用在数据中心内,也可以用在车辆之中,因此它能够帮助我们减少开发所需的时间,并且降低开发的难度。

 

亮点总结:

 

1. 同时支持Training和Inference,对于这一点,Grophcore有自己的一些独特的看法。

2. 采用同构多核(many-core)架构,超过1000个独立的处理器。每个处理器核的处理能力和具体支持的操作还不清楚。支持all-to-all的核间通信,采用Bulk Synchronous Parallel的同步计算模型(又是上个世纪80年代提出的)。

3. 采用大量片上memory,不直接连接DRAM。这可能是他们的架构中最激进的一个选择。

 

独到的Training/Inference设计理念

 

Graphcore认为先做Training然后做Inference的机制,未来一定会被Learning取代。也就是未来理想的机器智能应该能够在部署之后还能保持持续的学习和进化。然而随着时间的推移,下一代系统将持续不断学习和改进,在未来的系统中,我们将会看到,Training和Inference之间的区别会越来越小。

 

http://mmbiz.qpic.cn/mmbiz_jpg/6VURbzBFQj66iapafyeeo3G2MMibbUcy2osibzwLIM9UCAUEJuX3ibKvkCFLfsWGrBahZ0sySjqpNgS3aRYaywnc8A/640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1&wx_co=1

 

他们把自己特有的想法融合到了IPU架构的设计之中,Graphcore认为存储将会是限制未来进步的一道关卡。对于机器智能任务,GPU和CPU的性能受到其对外部存储器的带宽的限制。传统的外部DRAM系统(如DDR4或GDDR5)带宽太低,而且没有伸缩性。HBM(High Bandwidth Memory )在具有非常高的布线密度的硅衬底上使用垂直堆叠的DRAM die,但生成困难;此外,把DRAM带入处理器的thermal envelope之中,处理器只能以较低速度运行。

 

基于此,Graphcore设计的架构和常见的芯片不尽相同,IPU采用了大量分布式片上memory的设计。其目标是把所有的model都能够放在片上memory当中。具体来讲,IPU把大量的面积用于SRAM,所谓memory-centric chip,而适当减少运算单元fpu的面积,最终实现对power的充分利用。而GPU主要使用片外的memory,片上的面积中只有40%用于Machine Learning(fpu),而其它的50%的面积用于其它应用(Grahics,HPC)。由于GPU本身是面向多种应用的,这种设计也是很合理的。

 

http://mmbiz.qpic.cn/mmbiz_jpg/6VURbzBFQj66iapafyeeo3G2MMibbUcy2o4RGhEDuicAzjv1VpKribbmfwBngY07Y2a4N0xYF5bg5I2ETjlNLK6ZlA/640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1&wx_co=1

 

Graphcore的IPU在架构设计上还是有很多想法的,非常值得讨论。不过,感觉上IPU这种同构多核架构在Cloud端应用应该更合适一些。

 

Graphcore CEO Toon认为:机器智能努力的方向之一就是Continuous Learning。如果在一个架构上能够同时很好的支持Training和Inference当然非常理想。不过从目前的实践来看,Deep Learning中的Training和Inference还是有较大的差异的,运算量的巨大差别,精度要求不同,算法差别,部署的Constraints等等。Graphcore最终推出的IPU能否很好的解决这些问题,还有待观察。

 

如今,Graphcore在市场上面临着激烈的竞争,既有SambaNova、Cerebras Systems、Cambricon Technology和Horizon Robotics等初创企业,还包括英特尔和英伟达等芯片制造巨头。另外,苹果等设备制造商也将会在芯片领域开始发力。那么,AI芯片制造商Graphcore会蚕食Nvidia的份额么?看来只有时间来证明。

 

[1] [2] [3]

关键字:Graphcore  GreenWaves  Gyrfalcon

编辑:muyan 引用地址:http://news.eeworld.com.cn/IoT/ic467468.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:半导体技术如何塑造体育产业的未来
下一篇:英飞凌与腾讯云跨界合作,锁定这个万亿级市场

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

人工智能芯片制造商Graphcore 两亿美元D轮融资

世界领先人工智能芯片制造商估值已达17亿美元  继主导A轮融资后, 博世创业投资继续支持Graphcore机器智能训练和推理提速10至100倍投资合伙人蒋红权博士表示:“Graphcore正在领导云端和终端人工智能计算的范式转换。” 隶属于博世集团,罗伯特·博世创业投资公司(RBVC)参与了Graphcore最新一轮融资,助力这家世界领先的人工智能芯片制造商完成两亿美元融资,公司估值一举达到17亿美元。 全新处理器Graphcore致力于开发用于人工智能和机器智能的全新处理器和软件。公司创立两年后,Graphcore已开始向早期用户交付首批产品,并将于今年首次产生收入。目前,该公司正在进一步
发表于 2018-12-19
人工智能芯片制造商Graphcore 两亿美元D轮融资

吸引红杉资本中美两地基金联合领投,Graphcore有哪些魅力

英国芯片制造商Graphcore日前宣布获得由红杉资本中国基金与红杉资本美国基金共同领投的5000万美元C轮融资。在过去的18个月里,Graphcore先后完成了A轮和B轮共计6000万美元融资。这家地处欧洲的Graphcore芯片企业具有何种魔力,能吸引到红杉资本中美两地基金共同投资,并被视为英国下一个最大的人工智能硬件制造商?英国历来居于芯片行业的中间地带,而在业界颇具知名度的Graphcore继承了英国在这一领域的优良传统。为了推动下一波创新浪潮,Graphcore近期推出了“智能处理单元”(IPU),这是一种专门为机器学习算法而设计的新型芯片,经过一次产品迭代后,其性能比GPU提升了100倍。这种芯片可以部署于各种机器学习
发表于 2017-12-19

AI企业Graphcore完成C轮融资 所得将用于扩大IPU生产

人工智能(AI)新创企业堪称是科技产业的当红炸子鸡,受到投资者高度青睐,英国企业Graphcore最近完成C轮融资,取得5,000万美元资金,过去18个月总计募得1.1亿美元。根据EE Times报导,Graphcore本次募资获得创投企业Sequoia Capital的资金,所得将应用于扩大该公司首个芯片产品的生产。Graphcore其他投资者还包括三星电子(Samsung Electronics)旗下的Catalyst Fund、Robert Bosch创投资本、戴尔科技资本(Dell Technologies Capital)等。 Graphcore表示,新融资除了扩大芯片生产之外,还将应用于打造旗下Poplar软件平台
发表于 2017-11-20

AI新贵Gyrfalcon的多款机器学习芯片

均强调,Gyrfalcon是三星的独家AI芯片合作伙伴。 “我们的第一款芯片大获成功,因此像我们这样历史短、规模小的公司能够赢得三星等大品牌的青睐。”他说道。 GTI产品致胜的关键在于其具备绝佳的能效,在性能方面胜过英特尔传统中央处理器(CPU)与Nvidia图形处理器(GPU)。“我们就是对抗歌利亚的大卫。” 杨林说。  大卫对抗歌利亚 备注:大卫与巨人哥利亚的决斗是一个著名的西方典故,意为以弱胜强。《圣经》中记载,歌利亚是非利士将军,带兵进攻以色列军队,后被牧童大卫打败。大卫日后统一以色列,成为著名的大卫王。 GTI的产品正在向品牌化方向发展时,“Lightspeeur
发表于 2018-11-30
AI新贵Gyrfalcon的多款机器学习芯片

小广播

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2019 EEWORLD.com.cn, Inc. All rights reserved