参加世界智能大会,Graphcore要传递哪些信息

2021-06-06来源: EEWORLD关键字:Graphcore  AI  GPU  IPU

今年已经是Graphcore连续第二年参加世界智能大会了。


在本次大会上,Graphcore联合创始人兼CEO Nigel Toon受邀通过视频发表了以“IPU驱动智能计算,开创智能新格局”为主题的演讲。Graphcore高级副总裁兼中国区总经理卢涛参加了第三届工业互联网之智能网联汽车产城人文协同发展论坛的高峰对话环节,并多次与合作伙伴及政府机构洽谈,接受媒体采访等。在大会同期举办的展会上,Graphcore展台被装饰成“网红打卡点”,并率先在公开场合首次展示了IPU-M2000机器智能刀片式计算单元,并且举办了多场次展台演讲。


这么紧密且丰富的活动安排,也透露出Graphcore对于AI,对于中国市场的重视及承诺。


AI产业的革命


Toon和他的老伙伴Simon Knowles 2011年将Icera卖给了NVIDIA,彼时智能手机的浪潮刚刚开启,黄仁勋希望借助整合Icera的基带技术,将NVIDIA触角伸向移动领域,但是最后很遗憾并没有成功。Toon与Knowles在2016年成立Graphcore之时,NVIDIA已经成为AI市场的领军企业之一,NVIDIA密集发布了全线AI GPU 芯片、系统、软件和服务,公司定位也转向成为“世界上伟大的AI公司之一”。


如今五年过去,NVIDIA在AI芯片界已然成为了绝对的霸主,但是也有着众多的挑战者,Graphcore就是其中之一,留给Graphcore等小公司的机会还有多少呢?Toon在主题演讲中表示:“五年前,当我与Knowles共同创立Graphcore时,我们看到世界正处于技术驱动转型的边缘,在医学、物理学和气候研究等领域,AI实现新突破的可能性巨大。而传统的处理器架构的能力已经达到了极限,新型的计算需要一种新型的处理器。于是,我们从芯片到系统,构建了这种新型的处理器。”


Graphcore的智能处理器(IPU)是为满足AI需求而专门设计的,具有1,472个真正独立的处理器内核,以及在硅片上具有近千兆字节的超高速存储。Graphcore的数据中心系统使客户能够轻松地纵向和横向扩展其IPU计算规模,从单个IPU到多达数以千计的IPU,具有百亿亿级计算能力的潜力。卢涛具体解释道,IPU和GPU相比,具有两个最大的差异,首先是处理器内核更多,更擅长做并行处理。其次,是内存架构不一样,片上有900MB的片内存储,而GPU大概只有几十MB。对于LSTM和RNN等需要频繁内存读写的计算来讲,IPU比GPU更具优势。


“随着AI模型的规模和复杂性逐步升级,最终决定了此种规模的系统是必不可少的。这就是为什么我们需要更高效的AI计算能力,也是为什么客户转向Graphcore的原因。但IPU不仅于此,IPU不仅只加速当今的AI工作负载,它还是一种高度灵活的处理器,旨在运行利用稀疏计算等技术的下一代模型。”Toon说道。


不止于IPU


在Graphcore推出第一代IPU时,采用了和第三方联合开发的形式,推出了以加速卡为主的产品。而第二代IPU则是直接以1U即插即用的刀片式计算单元方式呈现,集成了4颗MK2 IPU,可提供1 petaFLOPS AI计算。该产品具备易于扩展的灵活性和突出的易用性,可以根据工作负载需求,和戴尔、浪潮等服务器OEM厂商所提供的、经Graphcore认证的主机服务器以灵活的比例构成IPU-POD系统,如IPU-POD4、IPU-POD16和IPU-POD64等。


对此,卢涛表示,产业链涉及的环节越多,整个产品落地时间就会越长。为了缩短产品开发周期,采用标准1U结构可以更好地交付到用户手中。


image.png

Graphcore高级副总裁兼中国区总经理 卢涛


根据卢涛的介绍,Graphcore第一代产品比NVIDIA的V100晚了18个月发布,第二代产品只晚了两个月。“半导体在过去几十年很重要的一个产品和商业逻辑,就是要保持稳定且高效的迭代速度。”卢涛说道。


软件是AI的最大护城河


“如果一个做AI处理器的公司没有意识到软件的重要性,将会是一个很严重的问题。”卢涛说道。从软件层次化方面,Graphcore和NVIDIA比较类似。比如对应CUDA的有Poplar;对应cuDNN、cuBLAS是PopLibs;再往上面包括对于TensorFlow、PyTorch等都提供支持。


“软件是GPU最大的护城河,也是用户从GPU迁移到别的平台的最大阻力。我们最近也在做一些工作,希望能够尽量降低用户的移植工作量。在这一过程中,TensorFlow、PyTorch这些平台型的软件帮助很大。对于TensorFlow或者PyTorch的用户来说,他们对底层硬件的感知不是那么明显。很多AI算法科学家可能都不知道也不关心底层用的是GPU还是CPU。TensorFlow、PyTorch等一些类似的工具软件从某种意义上对于帮助我们缩短同GPU生态的距离很重要。”卢涛表示,开放、开源及拥抱社区是Graphcore当前软件方面的策略。


目前Graphcore在中国将近40人的团队中,有一半以上从事软件相关工作。据卢涛透露,公司已经于4月份决定,在未来12-18个月内,在中国打造一支超过两百人的软件团队,围绕框架、算法等工作。


Graphcore的中国团队在很短的时间内,就已经做出诸多成绩,无论是水平还是执行力都得到了公司层面的认可。目前中国团队的成绩包括,支持阿里巴巴的HALO,支持微软亚洲研究院的深度神经网络编译器NNFusion,并且加入了百度的飞桨硬件生态联盟,在该生态联盟中,Graphcore将同百度推广新的AI应用程序,并帮助建立行业标准。


卢涛总结道:“我们认为目前的瓶颈就是生态,建立生态是一个需要长期投入和努力的事情,我们现在还是一个比较新的公司,建立生态不是一蹴而就的,我们正在不停地加大这方面的投入。”


应用广泛落地


根据Graphcore的实测,对比NVIDIA的数据并不差,但Graphcore经过最近一轮融资后,尽管估值已经上升到接近30亿美元,相对NVIDIA 4000多亿美元的估值来说,相距甚远。


对此,卢涛也是深有感触。“当我们与客户接触后,客户首先会对我们的产品性能感到惊讶,但之后就会怀疑我们的产品是否具有普适性,从GPU移植过来是否简便。”


但也正是客户的不确定性,促使Graphcore不断加码产品的创新。目前Graphcore的产品已经得到了诸多商用,包括针对云计算领域的搜索引擎、信息流的推荐;针对智能零售;新药研发;蛋白质合成、折叠等等领域都有Graphcore的身影。


值得一提的是,目前Graphcore在自动驾驶领域的一些项目上“已经有了进展”。卢涛表示,自动驾驶技术很多传感器相关算法由于时延等原因,都需要在本地执行,目前Graphcore正在同潜在合作伙伴进行相应的技术评估和论证。结合Graphcore在低时延,高速处理,低功耗以及稀疏化矩阵处理等方面的优势,实现更好的点云图处理。


针对目前几大互联网厂商都在投身于芯片产业,卢涛也明确表示这并不会对Graphcore的业务带来冲击。“首先企业在做选择时还是要看产品和服务,其次,战略投资和业务实践可能还有一定距离。因此核心竞争力还是在产品本身。”


仰望星空与脚踏实地


如今,AI的应用已经非常场景化、具体化。从汽车到金融再到互联网,每个领域所涉及的应用完全不同。卢涛总结道:“我们既要仰望星空,但是更要脚踏实地。一般而言,我们会在某一个垂直领域找一两家头部合作企业,先把相关的行业Know-How建立起来,落实典型案例之后,再‘以点带面’地铺开。”


Graphcore的中文名字是“拟未”,对于名字的含义,卢涛解释道:“其含义就是共同定义并建立未来,我们希望构建一个先进的计算平台,帮助创新者实现下一个突破,我们一直做的就是面向未来的事情。”


关键字:Graphcore  AI  GPU  IPU 编辑:冀凯 引用地址:http://news.eeworld.com.cn/qrs/ic537645.html

上一篇:Computex 2021上,美光频频放大招
下一篇:最后一页

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

Graphcore亮相世界智能大会,颠覆性AI计算引领智能“芯”时代
5月20日,中国天津——今天Graphcore(拟未科技)正式参加在天津举办的第五届世界智能大会,并重点展示基于第二代IPU(MK2 IPU)构建的MK2全线产品。这也是上述产品在中国的首次亮相,让中国创新者得以近距离体验IPU带来的强大AI计算。同时,Graphcore联合创始人兼CEO Nigel Toon和Graphcore高级副总裁兼中国区总经理卢涛将分别在本届大会高峰会和第三届工业互联网之智能网联汽车产城人文协同发展高峰论坛中发表演讲。 Graphcore展台设置在天津梅江会展中心N3展馆N3-B02号。展台聚焦尖端AI计算,集中展示了包括IPU-Machine:M2000(IPU-M2000)、IPU-POD
发表于 2021-05-20
<font color='red'>Graphcore</font>亮相世界智能大会,颠覆性AI计算引领智能“芯”时代
Supermicro Ultra服务器扩充Graphcore IPU-POD配置
在首个Supermicro Ultra系统成功获得认证之后,Graphcore的客户现在可以通过Graphcore精英合作伙伴选择Supermicro服务器作为其IPU-POD配置的一部分。 AS-1124US-TNRP配有最新的第三代AMD EPYC™(霄龙)处理器,是第一个被批准在IPU-POD系统中使用的Supermicro性能最高的企业级Ultra服务器。 作为Graphcore IPU-POD的一部分,Supermicro Ultra服务器将帮助创新者突破机器智能边界,开发和部署最先进的模型,加速当今使用最广泛的AI应用程序。 Graphcore产品管理副总裁Tom Wilson说
发表于 2021-03-25
Supermicro Ultra服务器扩充Graphcore <font color='red'>IPU</font>-POD配置
Graphcore和Cirrascale发布Graphcloud,加速云计算创新
Graphcore宣布其在帮助客户加速创新和大规模利用人工智能技术上,又迈出了新的一步。  Graphcore与Cirrascale Cloud Services(以下简称Cirrascale)携手,为云上人工智能带来全新内容:借助首个公开发行的、基于第二代IPU的IPU-POD(MK2 IPU-POD)横向扩展集群,不需要拥有和运营数据中心,我们提供了一种简单方法来实现来按需增加计算容量。 Graphcore认识到,人工智能技术为市场带来了巨大的机遇,同时也带来了一系列独特的计算挑战:模型的尺寸正在迅速增加,精度的标准也在不断提高。如果客户想要充分利用最新的创新,他们就需要一个紧密集成的、专门为人
发表于 2021-01-26
<font color='red'>Graphcore</font>和Cirrascale发布Gr<font color='red'>ap</font>hcloud,加速云计算创新
Graphcore成功获得2.22亿美元E轮融资
一种专门为支持人工智能工作负载设计的新型微处理器——IPU智能处理器的制造商Graphcore今天宣布,其已在E轮融资中筹集了2.22亿美元,增资后公司的估值为27.7亿美元。新投资将用于支持公司继续在全球扩展业务,并进一步加速未来IPU芯片、系统和软件的开发。 安大略省教师退休金计划委员会(Ontario Teachers’)领投了这一轮融资,富达国际和施罗德管理的基金,以及包括Baillie Gifford和Draper Esprit在内的Graphcore现有投资者也共同参与了本轮投资。这项投资使Graphcore筹集的资金总额超过了7.1亿美元,预计增资完成后该公司将握有超过4.4亿美元的现金,可用以支持未来
发表于 2020-12-29
<font color='red'>Graphcore</font>成功获得2.22亿美元E轮融资
Graphcore IPU-M2000性能测试,完胜GPU
Graphcore为其最新的AI计算系统——IPU-M2000和纵向扩展的IPU-POD64发布了第一套性能benchmark。 在各种流行的模型中,Graphcore技术在训练和推理方面均显著优于NVIDIA的A100(基于DGX)。 亮点包括: 训练 EfficientNet-B4:吞吐量高18倍 ResNeXt-101:吞吐量高3.7倍 BERT-Large:与DGX A100相比,在IPU-POD64上的训练时间快5.3倍(比双DGX系统缩短2.6倍) 推理 LSTM:以更低时延实现吞吐量提升超过600倍 EfficientNet
发表于 2020-12-09
Graphcore <font color='red'>IPU</font>-M2000性能测试,完胜GPU
AI 缺陷检测系统,确保果蔬质量
方案介绍果蔬经过收集、清洗、包装,通过冷链物流配送到各种销售渠道。最终的质量分级和检验决定其价格。传统上,通过自动分级机或人工目测进行分级和检验,质量因素通常包括重量、颜色、大小和外观。因此,这个过程不仅耗时、劳动强度大且费用支出高。特别是,检查员的判断并不总是100%一致。每个检验员都有自己的主观判断,很容易造成评分等级与实际质量之间存在差距。随着AI技术的成熟,传统的人工视觉检测或基于规则的人工智能设备的检测问题可以通过大数据和深度学习算法驱动的人工智能技术来解决。最终,将开发出神经网络模型,大幅提高精度和效率。研华的AIR-101边缘推理系统具有高度稳定的视觉推理计算能力,并配备了两个Intel®Movidius
发表于 2021-06-07
<font color='red'>AI</font> 缺陷检测系统,确保果蔬质量
小广播
何立民专栏 单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

换一换 更多 相关热搜器件
电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2021 EEWORLD.com.cn, Inc. All rights reserved