ODLA接口让Graphcore IPU进入深度学习快车道

2020-09-25来源: EEWORLD关键字:Graphcore  阿里云

在刚刚结束的2020云栖大会上,阿里云宣布对行业开源业界首个深度学习开放接口标准ODLA(Open Deep Learning API)。阿里云在今年5月份的OCP全球峰会上首次对外公布ODLA接口标准,并宣布已率先在Graphcore等生态伙伴上获得支持。IPU是Graphcore为机器智能从零设计的AI处理器,通过ODLA接口,开发者可以在IPU上快速跑通AI Matrix的各类模型。

张伟丰博士在2020 OCP全球峰会上公布ODLA接口标准

 

ODLA是一个为加速深度学习的统一异构硬件编程接口。ODLA规范了深度学习计算任务的定义和执行,实现上层应用和底层异构硬件平台的解耦,让AI异构计算更简单,实践代码“生成一次,随时链接,随处执行”的愿景。

 

“令人兴奋的新应用程序意味着我们对数据中心的期望比以往任何时候都要更高。我们希望通过使用更广泛的硬件选择,以更大的规模,扩大操作类型范围。ODLA使我们能够管理这种复杂性,并挖掘出这些出色的新技术的全部潜力。”Graphcore高级副总裁兼中国区总经理卢涛表示。

 

阿里云开发ODLA是为了解决异构计算中存在许久的一个核心挑战。ODLA是轻量高效的异构硬件统一接口标准,可在异构计算环境中实现效率最大化。在异构计算环境中,软件框架需要从专业芯片中获得最高性能,需要多种类型处理器在一个通用平台上协同工作,而每种处理器都需要针对其架构和专业知识领域进行某种程度的优化,例如AI的稀疏性。API提供的抽象级别可以适应芯片架构之间的差异。

 

基于ODLA的异构AI硬件对接方案

 

通过ODLA,在Graphcore IPU上技术适配和应用部署的工作量可以实现大幅度降低,且实现效率大幅提升。另外,通过ODLA可以更好的与AI计算框架进行软硬协同,快速利用现有的编译优化技术,达到最佳性能。对于异构任务,ODLA充当该系统范围通用语言与特定于架构的优化之间的接口或转换器,该优化可从Graphcore的IPU等设备实现最佳性能。

 

对于数据中心运营商而言,除了简化了新微处理器技术的集成之外,ODLA还带来了其他一系列好处。它支持通用和高性能的数据中心设置,并为高级应用程序提供统一的加速框架。对于应用程序开发人员来说,它减少了对不同架构进行重复优化的需求,并应该可以减少开发成本,缩短产品上市时间。

 

ODLA在2020云栖大会上宣布的主要特性及优势包含:

 

·         透明接口层,零损耗。

·         接口抽象和统一,软硬件解耦:通过面向AI的多粒度算子抽象,定义统一的接口,解耦具体软硬件,平滑迁移业务;实现代码复用,提升开发和部署效率。

·         多模态执行方式:支持多种执行模式,覆盖解释执行、编译执行、载入预编译代码等场景,兼容各种硬件的运行模式。

·         AI全场景支持:支持推理和训练,适配云、边、端全场景AI业务;拥有广泛的算子定义和丰富的接口(设备管理、会话管理、执行管理、事件同步/异步、资源查询、性能监控等)。

·         卓越的扩展性,支持AI芯片厂家独特属性和自定义算子。

 

A screenshot of a social media post

Description automatically generated

张伟丰博士在云栖大会上宣布开源ODLA

 

Graphcore公司相信,IPU将成为下一代数据中心AI工作负载的核心。我们深知,我们的愿景需要ODLA在内的诸多框架和工具,这些框架和工具能使我们的产品与其他同类最佳技术协同工作。

 

Graphcore的联合创始人兼首席执行官Nigel Toon表示:“ODLA优雅地满足了Graphcore新用户的两个最大需求。一是他们希望轻松地将我们的技术集成到现有的数据中心,二是他们希望确保最终的设置在从各个组件到整个系统的每个层级都能得到高度优化。”



关键字:Graphcore  阿里云 编辑:muyan 引用地址:http://news.eeworld.com.cn/qrs/ic511651.html 本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:Melexis全新霍尔效应锁存器 IC ,让设计更简单
下一篇:汽车智能化“芯引擎”,地平线高等级自动驾驶芯片问市

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

推动机器智能发展, Graphcore启动全球合作伙伴计划
Graphcore宣布推出精英合作伙伴计划,该计划是汇集渠道合作伙伴的全球网络,旨在满足客户对Graphcore两大解决方案的需求,包括广受赞誉的AI计算平台IPU-M2000以及用于横向扩展和超级计算规模的IPU-POD。 Graphcore精英合作伙伴计划包括许多世界上最知名的渠道伙伴、技术分销商和转售商,该计划将支持Graphcore最新的IPU-Machine: M2000 (IPU-M2000)向全球范围内的客户供货。 Graphcore发布的合作伙伴名单如下: 2CRSi、 Atos、 Boston Limited、戴尔科技、神州数码、浪潮、Lambda、Macnica
发表于 2020-09-22
推动机器智能发展,  <font color='red'>Graphcore</font>启动全球合作伙伴计划
Graphcore 第二代IPU能否让AI焕然新生
在AI浪潮推动下,大量新奇的AI应用迅猛而生。但这些应用非常场景化,既需要成熟的CPU和GPU,也需要全新的AI处理器。IPU(Intelligence Processing Unit)就是一种为AI计算而生的革命性架构,如今,IPU已经在金融、医疗、电信、机器人、云和互联网等领域取得成效。 近日,英国初创公司Graphcore发布了第二代IPU以及用于大规模系统级产品IPU-Machine: M2000(IPU-M2000),新一代产品具有更强的处理能力、更多的内存和内置的可扩展性,可处理极其庞大的机器智能工作负载。据了解,IPU-M2000可构建成IPU-POD64这一Graphcore全新模块化机架规模解决方案
发表于 2020-07-31
<font color='red'>Graphcore</font> 第二代IPU能否让AI焕然新生
三大颠覆性技术早就Graphcore二代IPU超强性能
Graphcore正式发布第二代IPU以及用于大规模系统级产品IPU-Machine: M2000(IPU-M2000),新一代产品具有更强的处理能力、更多的内存和内置的可扩展性,可处理极其庞大的机器智能工作负载。 IPU-M2000是一款即插即用的机器智能刀片式计算单元,由Graphcore全新的7纳米 Colossus™ 第二代 GC200 IPU提供动力,并由Poplar™软件栈提供全面支持。其设计便于部署,并支持可扩展至大规模的系统。这款纤薄的1U刀片机可提供1个PetaFlop的机器智能计算,并集成了针对AI扩展优化的网络技术。      
发表于 2020-07-16
三大颠覆性技术早就<font color='red'>Graphcore</font>二代IPU超强性能
Graphcore发布IPU开发者云,致力解决世界上最棘手的AI问题
Graphcore正式发布基于IPU的开发者云,面向中国的客户、大学、研究机构和个人研究者免费使用,使得前沿的机器智能创新者可以轻松获取IPU进行前沿AI模型的云端训练与推理,从而在新的一波机器智能浪潮中取得关键突破。该开发者云是中国首款IPU开发者云,部署在金山云上,使用了IPU PCIe卡适配完成的浪潮NF5568M5服务器和戴尔DSS8440服务器。  中国众多的机器智能创新者活跃在各个AI领域的世界前端,通过IPU开发者云,前沿机器智能创新者可以快速便捷地获取IPU云,避开自建机房或者申购IPU服务器等繁琐内部流程,专注于在IPU上快速运行自己的AI模型结果。 “我们在与创新者交流时,很多创新
发表于 2020-07-08
<font color='red'>Graphcore</font>发布IPU开发者云,致力解决世界上最棘手的AI问题
实现机器智能突破性创新,Graphcore加入百度飞桨硬件生态圈
在今天的Wave Summit 2020深度学习开发者峰会上,百度正式宣布Graphcore为百度飞桨(PaddlePaddle)硬件生态圈共建计划伙伴之一,并且共同签署倡议书,以助力AI创新应用在各类场景落地,并推动行业统一标准建立。通过百度飞桨,更多中国的开发者将能够利用Graphcore IPU这一全新处理器架构,实现机器智能的突破性创新,大幅加速AI模型。百度集团副总裁、深度学习技术及应用国家工程实验室副主任吴甜发布飞桨硬件生态圈 百度飞桨是中国首个开源开放、功能完备的产业级深度学习平台,目前累计开发者数量超过190 万,服务企业数量8.4 万家,创建了超过23万个模型,成为国内深度学习平台的领先者。百度飞桨硬件
发表于 2020-05-26
实现机器智能突破性创新,<font color='red'>Graphcore</font>加入百度飞桨硬件生态圈
英飞凌与阿里云合作,面向中国推出定制物联网安全芯片
9月9日,英飞凌和阿里云联合宣布面向中国市场推出基于硬件的ID²安全芯片OPTIGA™ Trust M2 ID2,旨在重新定义物联网设备上云的安全标准,专注保障物联网设备安全上云。OPTIGA™ Trust M2 ID2具有易于开发,优异的安全特性,灵活好用的扩展工具包与支持广泛的应用场景等特点,同时芯片拥有最高安全认证等级、金融级别安全认证等级CC EAL6+及ICA安全芯片Level 3最高级的双料安全认证。日前,英飞凌科技安全互联系统事业部市场经理成皓详细解读了英飞凌OPTIGA™Trust M2 ID2的技术参数,以及所具备的特殊优势,这些都是阿里云选择英飞凌作为合作伙伴的重要原因。成皓表示,物联网设备的制造商、方案提供商
发表于 2020-09-14
英飞凌与<font color='red'>阿里云</font>合作,面向中国推出定制物联网安全芯片
何立民专栏 单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

换一换 更多 相关热搜器件
电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2020 EEWORLD.com.cn, Inc. All rights reserved