Zebra将GPU代码迁移至FPGA,AI效率翻倍

2020-11-24来源: EEWORLD关键字:Zebra  FPGA  AI

Xilinx FPGA上的sology Zebra工具在ML推理引擎效率方面优于GPU和ASIC。近日,机器学习软件开发商Mipsology发布了基于Zebra FPGA人工智能加速器MLPerf推理基准测试的结果。

 

人工智能软件初创公司Mipsology正与Xilinx合作,使FPGA能够仅使用一个额外的命令就可以替换AI加速器应用程序中的GPU。Mipsology的“zero effort”软件Zebra将GPU代码转换为在FPGA上运行Mipsology的AI计算引擎,而无需进行任何代码更改或重新培训。

 

Zebra运行在Xilinx Alveo U250加速器卡上,其峰值性能效率是其他商用加速器(无论是GP还是专用的AI 边缘芯片)的两倍多。简单来讲,Xilinx最新版本的Alveo数据中心加速卡,与Mipsology的Zebra软件一样,能转换GPU AI代码,可同时在FPGA上运行

 

Mipsology的首席执行官和创始人Ludovic Larzul表示:“很高兴我们的架构被证明是所有测试过的现有解决方案中计算神经网络最有效的,并且在ML Perf的‘closed’类别中达到了最高要求。”“无需设计特定的芯片,也无需利用FPGA的可编程逻辑,我们也能击败英伟达、谷歌、AWS和阿里巴巴等巨头,以及Groq等资金雄厚的初创公司。或许该行业应该停止对TOPS的过度追求,如果未能发挥它的足够价值,那么400+ TOPS的硅意义何在?”

 

Mipsology takes on GPUs with AI on FPGAs

 

多年来TOPS峰值一直是衡量计算性能潜力的标准,因此许多人认为更多的Peak等于更高的性能。然而,这没有考虑到架构的实际效率,以及在某些时候收益递减的事实。当电路由于现有的限制而无法使用时,这种现象就会发生,类似于电源的“dark silicon”,也叫“暗硅”现象。Zebra证明,与TOPS一起进行扩展时,在峰值TOPS增长的同时也能保持相同高效率。

 

Xilinx将为Zebra制作最新版本的Alveo U50卡,其峰值达到了38.3。据悉,Zebra已经在其他Xilinx板上支持推理加速,包括Alveo U200和Alveo U250。

 

 

U250加速器卡在每个顶级流量方面显著超过竞争对手,并在当今最好的加速器中排名前列。根据MLPerf v0.7推断结果,它提供了与NVIDIA T4类似的性能,但它的最高性能比NVIDIA T4少3.5倍。在与GPU相同数量的TOPS上,它将提供3.5倍的吞吐量,或比TPU v3高6.5倍。而且这种性能不会以改变神经网络为代价。

 

MLPerf基准测试避免了任何神经网络更改、高精度修剪技术或其他需要用户干预的方法。Zebra在保持TensorFlow和Pytorch框架可编程性的同时实现了这一效率。

 

Xilinx AI和软件副总裁Ramine Roane:“Mipsology在Xilinx Alveo平台上的Zebra AI推理加速为开发人员在神经网络推理计算方面提供了一个可靠的区分器,与Zebra相结合,Alveo U50满足了AI工作负载的灵活性和性能需求,并为任何部署提供了高吞吐量和低延迟性能优势。Zebra赋予我们的adaptive Alveo平台比其他产品(包括GPU)更高的计算效率。”

 

据了解,Mipsology成立于2015年,约有30人在法国从事研发工作,在加州有一个小团队主要负责业务开发。该公司已获得总额700万美元的资金,其中200万美元是2019年法国政府创新竞赛的奖金。

 

Mipsology的核心团队来自EVE——Synopsys于2012年收购的一家ASIC仿真器公司,该公司生产Zebra硬件辅助验证产品。据称,几乎所有主要的ASIC公司都使用EVE技术在设计周期内验证ASIC;这项技术依赖于连接在一起的数千个FPGA来重现ASIC的行为。

 

Mipsology有12项专利正在申请中,与Xilinx密切合作,并兼容第三方加速卡,如Western Digital small-form factor(SFF U.2)卡和Advantech卡(如Vega-4001)。

 


关键字:Zebra  FPGA  AI 编辑:muyan 引用地址:http://news.eeworld.com.cn/FPGA/ic517601.html

上一篇:Intel如何玩转FPGA,加快数据中心创新
下一篇:紫光同创28nmFPGA芯片大功告成,即将推出样片

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

Zebra软件平台让FPGA深度学习推理不再复杂
全球领先的技术解决方案提供商安富利亚洲和AI软件领域的创新企业Mipsology宣布,安富利将向其亚太区客户推广和销售Mipsology的Zebra软件平台。Zebra消除了FPGA的技术复杂性,使得它们可以即插即用,并发挥超快的速度和出色的性能。该协议扩展了安富利的物联网生态系统,为安富利的亚洲客户带来了Mipsology突破性的深度学习推理加速解决方案。希望部署人工智能的企业,现在无需修改代码,便可以无缝迁移到全新的基于FPGA的加速技术。而且,与基于GPU的解决方案相比,其软件和硬件的使用寿命要长得多。 安富利首款采用该解决方案的产品,将是基于Zebra的赛灵思Alveo数据中心加速器卡。未来产品的范围有望扩大
发表于 2020-03-25
Swift Sensor与Zebra签署广泛合作计划
面向工业物联网的即插即用云无线传感器系统供应商Swift Sensors,与企业级供应商Zebra签署合作计划,将为客户提供全面的解决方案,以帮助企业根据他们的独立软件供应商(ISV)计划获得更好的性能提升。现在,Swift传感器用户可以通过Zebra全面的移动计算设备或平板电脑直接访问Swift传感器无线传感器系统。Swift Sensors选择Zebra作为其在企业移动领域的行业领先地位,包括用于制造,运输和物流以及许多其他垂直行业的手持设备和坚固耐用的平板电脑。客户可以利用企业级Zebra平板电脑,如XSLATE L10,XSLATE R12和ET5x,快速访问和查看Swift传感器云控制台。这为工业工厂,食品制造商
发表于 2019-07-15
这家AI辅助医学成像公司仅需一美元即可检测多种疾病,影像和临床匿名数据库超过了IBM
的压力,同时提高诊疗的效率和准确率。位于以色列Kibbutz Shefayim的Zebra Medical Vision是一家运用机器及深度学习向医疗保健行业提供下一代产品及服务的公司。其影像学分析平台可使医疗保健机构能够识别有疾病风险的患者,并提供改良的、预防性治疗通路来改善患者医护。 节约医生成本Zebra 的平台提供了一个基于云,并且完全托管的研发环境。人们可获取大量已脱敏的研究资料和数据。该平台具备先进的GPU(图形处理器)计算能力,支持各类研究工具。不同的研究组织还可通过这一平台进行合作,共同创建工具。Zebra的放射辅助系统能接收来自各种模块的扫描影像,自动进行分析,判读各种临床发现。系统发现的结果按需要实时提供给放射科医生
发表于 2018-01-24
Zebra:2022年智能工厂采用率将达64%
 制造商正以飞快的速度,采用穿戴式科技和物联网(IoT)。移动技术供货商Zebra Technologies调查发现,目前有43%企业采用“智能工厂”,2022年这个比率将增至64%。下面就随网络通信小编一起来了解一下相关内容吧。企业正积极投资智能工厂技术,以全面连网的工厂来追踪供应链营运状况。据DC Velocity报导,由于全球化持续发威,全球竞争日益剧烈,加上消费者日益要求产品质量,企业正积极投资智能工厂技术,以全面连网的工厂来追踪供应链营运状况。2017年第1季,Zebra委托市场研调公司Peerless Insights展开研究,访问1,100位制造业决策者,遍及北美、拉美、欧洲和亚太地区,产业别包括汽车制造、高科技
发表于 2017-08-11
Zebra获2015“物联之星”RFID行业十大最具影响力国际品牌奖
2016年4月7日,企业资产、人员和业务实时可视化产品与服务全球领先提供商斑马技术公司(Zebra)宣布荣获2015 “物联之星” RFID行业十大最具影响力国际品牌奖。该奖项由国际物联网贸易与应用促进会主办,是中国RFID产业最具权威性和影响力的行业奖项之一,旨在表彰过去一年中对中国RFID行业发展做出积极贡献的优秀企业。 自1999年开始开发RFID打印机,斑马技术便不断在RFID行业积极探索创新。如今,斑马技术的RFID产品和解决方案被全球众多行业(包括医疗保健、零售、交通运输与物流、制造和体育运动等)广泛采用,能够帮助企业显著提高运营效率、准确性和供应链可视性,实现企业资产智能化管理
发表于 2016-04-07
<font color='red'>Zebra</font>获2015“物联之星”RFID行业十大最具影响力国际品牌奖
复旦微28nm FPGA芯片去年上半年营收3083万元,毛利率达99.6%
日前,复旦微在回复上交所问询函中表示,公司28nm大规模亿门级FPGA产品于2019年初开始量产。2019年和2020年1-6月,公司28nm工艺制程FPGA实现的收入分别为1511.03万元和3096.35万元,增长迅速,且占FPGA总收入的比例由18.02%提高到了49.77%。此外,2019年和2020年1-6月,复旦微28nm工艺制程FPGA的毛利分别为1488.04万元和3083.84万元,毛利率水平分别为98.48%和99.6%,主要终端客户为高可靠领域客户。“由于FPGA的推广需要经历由Designin到Designwin,再到批量销售的过程,整个周期相对较长,且产品产能需要经历爬坡过程,因此占全球市场的份额相对
发表于 2021-01-10
小广播
夏宇闻老师专栏

你问我答FPGA设计

北京航空航天大学教授,国内最早从事复杂数字逻辑和嵌入式系统设计的专家。

换一换 更多 相关热搜器件
电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2021 EEWORLD.com.cn, Inc. All rights reserved