今日,微软在 HotChips 大会上正式揭晓了 Brainwave 系统,该产品是微软加入人工智能硬件竞赛的首发产品。微软表示这款高速度、低延迟的 AI 专用芯片系统可以为机器学习开发者们提供超越 GPU 的性能。下面就随网络通信小编一起来了解一下相关内容吧。
微软的研究人员现场展示了 Brainwave 的威力:在使用英特尔最新的 Stratix 10 FPGA(现场可编程门阵列)芯片的情况下,Brainwave 运行 Gated Recurrent Unit(LSTM的变种)的浮点运算速度可高达 39.5 TFLOPS,并且不需要任何批量处理,即芯片可以即时处理每一项提交上去的请求,为机器学习系统提供实时的见解。
对于用户来说,低延迟是大规模部署机器学习系统时必须满足的一个要求,因为他们不会有太多耐心等待 APP 反应。
“我们需要‘即时AI’,因为你在提交请求后,会想立刻获得反馈,不论是视频播放、对话,还是检测网络入侵者和异常状况,你会期望 APP 都能即时反馈”,微软研究所的工程师 Doug Burger 说。
然而,之前的硬件加速机器学习系统相关的研究却注重于牺牲延迟来实现高流量。Burger 认为,需要思考的是,在不对请求进行批量处理时,机器学习加速器的反应速度。“其他人给出的数字都注水了。”
由于 FPGA 属于可编程芯片,它可以让开发者专门为各种功能对硬件进行优化设置,比如设置出可以快速处理神经网络所需的数学计算的硬件。微软已在其数据中心安装了数十万枚 FPGA。而这些 FPGA 已经开始使用 Brainwave,让微软的各种服务可以更迅速地支持人工智能功能。此外,微软还将通过旗下 Azure 云服务,向第三方客户提供 Brainwave。
在这些 FPGA 上,Brainwave 会提前设置好一个经过训练的机器学习模型。之后,它们就可以被用来做识别文字、辨别图像等机器学习任务了。对于一个较大的文件,Brainwave 的软件可以将它分拆到多个芯片上进行计算。而这个模型将永存与这些 FPGA 上,直到微软选择对其进行升级。
微软并不是唯一一家投资于加速机器学习硬件的公司。今年年初,谷歌就曾揭晓其机器学习训练和运行的专用芯片——TPU(Tensor Processing Unit)的第二个版本。此外,还有多家初创公司正在开发机器学习加速硬件。
然而,各方各界对于机器学习加速硬件的看法却并不一样。有些人认为,FPGA比专门为机器学习而设计的 ASIC(专用集成电路)效率更低,速度更慢。Burger 表示,他们在 FPGA 上所展现的性能足以反驳这一说法,让人们见识到FPGA 也可以提供高性能。
而且,今天微软的展示的 Stratix 10 是一款全新芯片,还有与英特尔合作优化的空间。据Burger计算,使用 Stratix 10 的 Brainwave 的运算速度最高应该可以实现 90 TFLOPS。
目前,Brainwave 只支持在微软 CNTK 框架和谷歌 TensorFlow 框架下的模型。其团队正开发兼容 Caffe 等其他框架的 Brainwave 版本。微软表示,未来,第三方客户将可以在 Brainwave 上运行任何模型,不过并未给出 Brainwave 全面上市的时间表。
以上是关于网络通信中-微软揭晓Brainwave人工智能系统,可实现超低延迟的相关介绍,如果想要了解更多相关信息,请多多关注eeworld,eeworld电子工程将给大家提供更全、更详细、更新的资讯信息。
关键字:微软 Brainwave
引用地址:
微软揭晓Brainwave人工智能系统,可实现超低延迟
推荐阅读最新更新时间:2024-05-07 17:35
iFixit拆解Surface Duo:可修复性2分 微软官方均不好修
近日拆解机构 iFixit 已拿到了微软 Surface Duo 并对这款可折叠设备进行拆解,最终微软 Surface Duo 的可修复性得分为 2 分,iFixit 称这款手机 “就连 Microsoft 自己都难以进行维修”。 iFixit 认为微软 Surface Duo 是一款令人惊讶的创新设备,但由于采用非常纤薄的外形设计,不可避免地必须做出一些折衷。他们指出,尽管可以在不拆卸任何其他组件的情况下更换显示器和后玻璃盖,但存在以下问题: • 需要大量拆下电池胶后才能维修。 • USB-C 端口直接焊接到主板上。 • 关键组件由不常见的螺丝进行固定。 • OLED 面板不能很好地防止意外撬动
[手机便携]
微软下调Azure云服务价格 与亚马逊竞争
3月12日消息,据国外媒体报道,微软上周下调了其Azure云存储服务和Windows Azure Extra Small计算服务的价格。此举是微软在亚马逊下调其Web服务价格几天之后采取的行动。 这一切意味着什么?对于IT买主来说,云计算价格正在迅速下降并且已经与电费水平一样。考虑到电费受天然气价格、季节和其它可变因素的影响,云计算的价格可能更便宜。 微软发布了有关下调Azure云服务价格的细节。 ·Windows Azure云存储服务的价格下调了12%。 ·Windows Azure云存储服务各个层次的6个月的服务计划价格最多下调14%。 ·Windows Azure Extra Small计算服务的价格下
[网络通信]
银行业安全新规工作或重启 将向微软等征求意见
北京时间8月19日晚间消息,路透社周三援引多位知情人士的消息称,中国监管部门已重启银行业安全新规相关工作。今年4月,该新规因遭到西方科技公司的反对而暂停实施。
其中一位知情人士称,在上周于北京召开的一次会议上,中国银行业监督管理委员会(CBRC)官员已告知微软、IBM和思科等西方科技公司的代表,下个月将对修订后的新规征求意见。
修订前的这份银行业安全规定要求中国的银行增加对安全技术的使用,要求向中国银行出售计算机设备的公司提供源代码,还建议中国的银行更多地购买国内的IT设备。但该规定遭到了西方科技公司,以及美国和欧洲政府的反对。
为此,中国相关部门今年4月暂停实施该新规,待征集意见
[手机便携]
微软就 Wi-Fi 专利纠纷,和加州理工学院达成庭外和解
3 月 15 日消息,微软宣布就 Wi-Fi 侵权纠纷,和加州理工学院(Caltech)达成庭外和解。 加州理工学院指控微软在 Surface 设备和 Xbox 游戏机中使用了他们的专利 Wi-Fi 技术。微软否认了这些指控,声称这些专利是无效的,而且已经获得了使用这些专利的许可,但还是选择了庭外和解。 这起案件是 2020 年事件的后续,加州陪审团裁决苹果设备中使用的 Broadcom Wi-Fi 芯片侵犯加州理工学院专利,被判赔偿 11 亿美元。其中苹果被责令支付 8.38 亿美元,而博通则被告知支付 2.7 亿美元。 加州理工学院胜诉之后,继续起诉微软、惠普和戴尔等公司,目前和惠普、戴尔的纠纷目前仍在审理过程中。
[网络通信]
盯上无人驾驶,微软想用Kinect敲开谷歌大门?
微软体感设备 Kinect 最早是和Xbox游戏机配合销售的,用于体感游戏的体验。不过这款产品实际上可以应用在更多领域,比如微软最近在博客上提到的 无人驾驶 汽车。
▲Kinect
微软在博客中虽然没有点名道姓的指出Kinect可以让 谷歌 无人驾驶汽车更加安全,但微软提到该技术可以防止无人驾驶汽车和公交车相撞的事件,很明显这指的就是谷歌产品。
微软想让Kinect涉足无人驾驶领域,实际上就表明了该公司对于该领域的兴趣。微软和拉拉古纳大学研究者认为,Kinect有助于无人驾驶汽车确定方向。他们让Kinect深度摄像头和激光测距仪与立体摄像机的组合进行对比测试,结果在自动驾驶高尔夫球车的运行中,Kine
[嵌入式]
微软Windows Live负责人突然辞职
?? ??? 就在Windows Live Messenger发布之后不到24小时,负责此次发布项目的微软联合副总裁Martin Taylor突然宣布从微软辞职。 ??? Taylor在微软已经工作了13年,是首席执行官Ballmer的首席顾问,今年三月起开始负责Windows Live和MSN项目,并负责推广“Get the Facts”项目来回应Linux和开源。? ????根据微软的计划,Taylor将在Windows Live的建立与推广过程中扮演重要角色,但现在却突然离去,而且微软和Taylor本人都没有透露具体原因,微软发言人只是说感谢Taylor这些年在微软的贡献但不便就此“个人事件”发表评论。 ???
[焦点新闻]
微软下月发4G版Surface Pro:骁龙835+Win10
微软日前确认,定于10月31日在伦敦Future Decoded活动上举办专题活动,Surface部门负责人Panos Panay主讲。 毋庸置疑,本次将是Surface新品登场的时间。 此前,TheVerge的前瞻中出现了Surface Book 2、Surface Hub、LTE版Surface Pro等产品。 但ZDNet报道,微软研究专家Mary Jo Foley撰文指出,新的Surface Book笔记本要到明年年初才能亮相,同时还有新的Surface Hub等。 换言之,TV的前瞻中就只有LTE版的Surface Pro还“幸存着”了。 关于这款LTE版的Surface Pro,也有一些比较激进的爆料,比如搭载的芯片是
[手机便携]
微软:苹果放宽App Store游戏规则仍让用户“体验不佳
据 Appleinsider 报道,微软上周五对苹果应用商店的最新变化给出了自己的意见,称该变化放松了对云游戏应用的限制,但其仍然给用户带来了 “糟糕的体验”。 早些时候苹果概述了其对 App Store 所做的许多更改,旨在放宽对云游戏服务的限制。尽管App Store规则允许云平台存在,但微软仍认为其过于严格,无法为游戏玩家带来便利: 对于玩家而言,这仍然给其带来了糟糕的体验。游戏玩家希望像在电影或歌曲中一样,直接从一个应用程序精选目录中直接载入游戏,而不是被迫下载超过 100 个应用程序来从云中玩单个游戏。 苹果公司的确允许其他公司提交带有“目录”的应用程序,这些应用程序可以帮助用户注册订阅服务并在 A
[手机便携]