微软发明的GPU和FPGA之间的数据传输方案

2020-10-24来源: 爱集微关键字:微软

2018年5月,在Bulid大会上,微软宣布 Project Brainwave 开放预览,这是一种用于深度神经网络处理的架构,可以用于Azure与边缘环境,并且可以让Azure成为实时运行人工智能最快的云平台。

为什么微软要基于FPGA来进行人工智能芯片设计呢?这是因为当时微软的搜索引擎都是依靠CPU驱动,尽管英特尔等公司不断改进CPU,但是这些芯片还是不能满足微软的需求。而此时恰好FPGA能弥补这个不足。

图形处理单元(GPU)已经被用于图形应用许多年,近年来也被应用于其他例如图形处理、搜索以及其他一般的应用。虽然FPGA和GPU均可以被视为专用处理器,但是在某些场合,如果FPGA与GPU之间可以进行通信以及任务的共享、转交,会更加高效的完成任务,这也是基于FPGA设计人工智能芯片的重要设计方案之一。

为了实现FPGA与GPU之间的通信,微软在2013年8月16日申请了一项名为“GPU和FPGA组件之间的直接通信的方法和系统”的发明专利(申请号:201380044351.6),申请人为微软技术许可有限责任公司。

根据该专利目前公开的资料,让我们一起来看看这项FPGA与GPU之间的通信技术吧。

如上图,为用于GPU和FPGA组件之间直接通信的系统框图,系统100包括存储计算机指令的存储器、中央处理单元(CPU)102、图形处理单元(GPU)104和现场可编程门阵列(FPGA)106,这些部件通过总线进行连接,传输数据包括经由PCIe交换机在GPU和FPGA之间直接传输数据。

而要达到数据传输的目的,必然不可避免要对于数据在硬件中进行编址,也就是例如基于虚拟存储器存储的数据,被存储在不连续的块中的数据的物理地址中时,需要进行地址编码。当数据在GPU与FPGA之间传输时,数据可以从FPGA的存储器传输到GPU中,由于采用了编址,因此也就不会发生数据错位、丢失等问题。

在GPU和FPGA通信中,也分为直接通信和间接通信两种方式,首先我们来看看间接通信方式。

如上图,为GPU和FPGA组件之间间接通信的系统示意图,如图所示,数据202经由GPU、快速PCI交换机、CPU和CPU存储器,在GPU存储器和FPGA存储器之间交换。这是一个间接的路径,由于在GPU和FPGA之间经过了CPU,因此也被称为GPU-CPU-FPGA传输。

这种间接传输的方式,虽然可以保证数据在GPU和FPGA之间共享,但是由于数据经过了两次PCIe交换机并由于操作系统和CPU存储器硬件两者的等待时间加时,因此增加了通信等待时间和操作系统的开销。

接着,我们来看看GPU和FPGA组件之间直接通信的流程图,如上图所示,首先要获取标识用于直接访问FPGA的存储器的地址的虚拟指针,例如FPGA驱动程序可以生成标识用于直接访问FPGA中的存储器的地址的虚拟指针。

之后就可以启动虚拟指针到与FPGA外部的GPU相关联的图形处理单元(GPU)驱动程序的传输,经过外部的总线接口,可以直接启动GPU与FPGA之间的数据传输,而无需作为中间操作来将数据存储在中央处理单元的存储器中。

以上就是微软发明的GPU与FPGA之间的数据传输方案,在微软进行基于FPGA的人工智能芯片设计的过程中,FPGA担任着机器学习算法的主要硬件基础。这种在GPU与FPGA之间传输数据的技术,势必会加速人工智能芯片的发展以及加快深度学习技术的发展。


关键字:微软 编辑:北极风 引用地址:http://news.eeworld.com.cn/xfdz/ic514186.html 本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:华为Mate40 Pro相机成绩登全球第一
下一篇:前中芯国际执行副总裁汤天申博士加盟跃昉科技,任CEO

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

微软发明的GPU和FPGA之间数据传输方案
2018年5月,在Bulid大会上,微软宣布 Project Brainwave 开放预览,这是一种用于深度神经网络处理的架构,可以用于Azure与边缘环境,并且可以让Azure成为实时运行人工智能最快的云平台。为什么微软要基于FPGA来进行人工智能芯片设计呢?这是因为当时微软的搜索引擎都是依靠CPU驱动,尽管英特尔等公司不断改进CPU,但是这些芯片还是不能满足微软的需求。而此时恰好FPGA能弥补这个不足。图形处理单元(GPU)已经被用于图形应用许多年,近年来也被应用于其他例如图形处理、搜索以及其他一般的应用。虽然FPGA和GPU均可以被视为专用处理器,但是在某些场合,如果FPGA与GPU之间可以进行通信以及任务的共享、转交
发表于 2020-10-23
<font color='red'>微软</font>发明的GPU和FPGA之间数据传输方案
索尼PlayStation和微软Xbox市场战略日趋不同
Strategy Analytics最新发布的研究报告《2012-2025年全球游戏机预测》表明,拥有50年历史的游戏机大战中的下一场战役将由索尼 PlayStation和微软Xbox引领。报告指出,索尼PlayStation和微软Xbox市场战略日趋不同;索尼始终专注于改善大屏幕游戏体验,而微软则更关注尽可能多的在各种设备上提供游戏。随着Xbox转向订阅业务,而索尼保留了传统的一次付费方式,商业模式也出现了差异。两家公司都将在本季度推出新的游戏机,并且研究预测索尼将再次在全球范围内领先微软,到2025年PS5游戏机的市场存量将达到6910万,而Xbox系列X / S设备则为4040万。然而,由于视频游戏业务将越来越
发表于 2020-10-20
索尼PlayStation和<font color='red'>微软</font>Xbox市场战略日趋不同
微软更新Xbox应用:iOS用户可在设备上玩主机游戏
微软今天发布了为 iPhone 和 iPad 而设的 Xbox 应用程序的更新版本,它将允许 Xbox 用户使用流功能在其苹果设备上玩游戏。微软已经对该功能进行了数周的测试,从该应用的更新说明中可知应用现在支持下列功能:-设置新的游戏主机和游戏排列-从主机远程游玩-查看和分享游戏剪辑和屏幕截图-跨设备与朋友聚会聊天新的 Xbox 流媒体选项不同于微软的 xCloud 服务,由于苹果公司对云游戏的限制,该服务尚未在苹果设备上提供。xCloud 旨在直接从微软的服务器流式传输游戏,而 Xbox 流式传输选项要求用户将其设备连接至 Xbox 主机。更新后的 Xbox 应用类似于索尼在 ‌iPhone ‌和 ‌iPad‌ 上提供的 PS4
发表于 2020-10-20
叠屏开启笔电新时代!英特尔、微软、三星等全球IT企业入局
CINNO Research 产业资讯,笔记本电脑形态革新项目正式开启,三星、英特尔、微软等全球 IT 企业都在推行折叠屏笔记本电脑商用。折叠屏电脑时代来临在即。 根据韩媒 Etnews 报道,三星显示、BOE 等面板厂正着手于开发折叠笔记本电脑 17 吋 OLED 面板,折叠后尺寸为 13 吋,计划搭载英特尔 Horseshoe bend 平台。Horseshoe bend 是今年初 CES 上英特尔公开的折叠屏笔记本电脑平台。17 吋屏幕展开可以作为显示器和大屏平板使用,折叠 90 度后屏幕可以显示虚拟键盘,作为笔记本电脑使用,是一种全新概念的 PC。 Horseshoe bend 项目有多家领头羊企业加盟
发表于 2020-10-15
叠屏开启笔电新时代!英特尔、<font color='red'>微软</font>、三星等全球IT企业入局
部分Surface Duo塑料边框发黄,微软可退换货
外媒 WMPU 报道,微软 Surface Duo 最初是采用金属框架设计的,但在去年的某些时候,微软决定采用塑料边框,这似乎是近期不少问题的根源。  此前IT之家报道,微软 Surface Duo 出现了 USB-C 端口塑料边框破裂的问题,现在多个用户抱怨设备的塑料边框出现发黄问题。  这似乎是一个公认的问题,多名用户报告称,微软允许他们退回边框发黄的手机。  根据这些用户的说法,微软还建议用酒精清洁塑料表面,尽管一些业主表示这并不总是奏效。  考虑到这款设备高昂的价格,购买者很难接受这些质量问题,如果微软进行了充分的测试,肯定应该会发现这些问题,但现在已经面临着不佳的观感。
发表于 2020-10-11
部分Surface Duo塑料边框发黄,<font color='red'>微软</font>可退换货
小广播
换一换 更多 相关热搜器件
电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2020 EEWORLD.com.cn, Inc. All rights reserved