一直被喷不实用的超算 在深度学习时代会改变吗?

发布者:sheng44最新更新时间:2017-12-11 来源: 电子产品世界关键字:深度学习  超级计算机 手机看文章 扫描二维码
随时随地手机看文章

  在中学课本里,我们都学到过“超级计算机”这个概念,在印象里它通常和神州五号、航空母舰等等高科技设备出现在同一个章节,属于国家科研能力的体现,更是在国际科技战备的赛点。下面就随网络通信小编一起来了解一下相关内容吧。

  现在这么多年过去了,一回神中国超级计算机的代表作已经从天河进化成了神威·太湖之光,并且通过对地震、海浪等等自然现象的精确模拟两次获得了戈登贝尔奖。

  据称,戈登贝尔奖是超算领域的最高奖项,在奖项评选标准中更多会考虑到超算项目的实际应用性。过去三十年中,这一奖项一直被美国和日本垄断,直到最近两年才被中国蝉联。

  说实在的,大多数人的印象中,中国超算经过这么多年的发展,还实现了“零的突破”,可在IT领域中,我们似乎更多的受益于互联网、移动终端的发展。

  地震?海浪?超算到底能干嘛

  拥有这种疑问的人不是少数,超级计算机这几年开始频繁的受到一种质疑:强大的算力究竟有什么用?耗费这么多科研经费和资源,是不是只是为了刷排名而没有实用价值?

  其实人们会产生这种疑问是很正常的,超级计算机从研发到生产以至于后期的运维,成本都非常之高。研发时凝聚的高精尖科研力量自不必提,产品上光是CPU/GPU就有几千个,占地面积要达到上千平方米。使用起来更是电老虎,以天河二号为例,满负荷运行的情况下,一天的电费就需要30万。而大量的计算还会让超级计算机发热,如何降温还成了个大问题。



一直被喷不实用的超算 在深度学习时代会改变吗?

  所以,这么昂贵的超级计算机都用来做什么了呢?

  以去年神威·太湖入围戈登贝尔的几个项目为例,他们分别是“千万核可扩展全球大气动力学全隐式模拟”、“高分辨率海浪数值模拟”和“钛合金微结构演化相场模拟”。

  em……没错,除去军事应用外,超级计算机通常会被应用于天文、气象、基础物理、化学等等方面的研究。乍一听起来,的确离人们的现实生活太远了。毕竟现在整个世界都还没用出现什么突破以往物理定律的新发现,虽然能发射火箭,可普通人还不能进行一次太空旅行,至于天气预报倒是比以前准确了不少,可也没出现过超算成功预测并避开自然灾害的情况。

  用超级计算机玩网游,是一种怎样的体验?

  计算这件事,在大数据遍地的今天并不少见,既然超级计算机的计算能力那么强,为什么不把交通大数据、金融大数据这些东西都放到上面去算呢?

  首先,我们要对超算能力这件事有一个正确的认识。由于超级计算机集成了大量CPU,它所擅长的也是CPU最擅长的工作——浮点运算。由于计算机使用的是二进制,所以在处理1.01这种带小数点的小数时,只能用科学计数法来表示。这样就避免了小数运算时的有穷性,可以对无穷大和无穷小的数值进行运算。

  超级计算机最擅长的就是依靠并联的CPU们对浮点数计算进行并行运算。可以承受其他计算机无法承受的计算峰值。一个CPU算一道题需要5个小时,用五个CPU把这道题拆解开来分别计算,就只需要一个小时。一些在普通计算机上要跑一个礼拜的项目,拿到超级计算机上可能两分钟就完成了。


一直被喷不实用的超算 在深度学习时代会改变吗?

  所以现在我们知道了,超算的最大作用,是为某一种特定形式的计算节约时间。而在日常生活中,也许我们面对的问题并不是浮点数计算,比如区块链应用的就是单一hash的运算;又或者像电商、游戏大厂,它们面临的不是高计算量,而是快速频繁的数据并发吞吐。

  而把计算任务部署到超算上,又面临着不少的成本,除去使用费用不说,由于超算只提供编译平台,使用者还要自己去熟悉系统。而且目前的超级计算机虽然大多为学术机构所有,但是一想到要把自己用户的数据拿到别人的机子上计算,总觉得有点怪怪的……

  所以,超算并不是不能用来处理我们日常、商业中遇到的计算问题,而是很多本来不是超算最擅长的,综合使用成本而言,没有必要使用超算。

  用超算训练AI,会不会是超算民用的第一步?

  不过一个好消息是,随着深度学习的普及和发展,超算的计算能力或许可以被更多人应用起来。

  众所周知,深度学习的神经网络层数更深,每个神经元之间互相连接,形成了一个非常复杂的结构。而每个神经元中又都需要Sigmoid函数这类复杂的数学计算,加上图像识别、语音识别这类工作本身数据训练集就很大,最后就集结成了一种非常可怕的计算量。

  这几年深度学习的发展,离不开计算能力的发展。英伟达之所以能靠卖GPU超过同行,最大的原因就是深度学习对计算能力的依赖。

  那么,超级计算机能不能应用在深度学习上呢?答案是肯定的。

  在今年年初的德扑人机大赛中,打赢了人类牌手的Libratus就是一个在超级计算机上训练的AI。Libratus甚至没有搭建神经网络,光学习了游戏规则,利用强化学习自我博弈就超越了人类水平。


一直被喷不实用的超算 在深度学习时代会改变吗?

  在国内,百度旗下的深度学习开源平台PaddlePaddle也支持超算应用,甚至还入选了今年的ASC超算大赛总决赛。计算性能的超越让一些以往不可能的事情成为可能,比如上面那个德扑的案例,不应用神经网络、单纯靠强化学习的自我博弈在没有超算的情况下可能要花费无法想象的时间,而有了超算后,这件事情就成为了可能。

  同理,一些大量数据、长时间的深度学习/深度强化学习模型训练都可以在超计算机上完成。不过,这个领域中的超级计算机的竞争对手也不少。

  首先就是芯片厂商们,英伟达、IBM、高通等等厂商都在争先恐后的研发着适用于深度学习的芯片。早在3年前,IBM推出的TrueNorth就已经集成了54亿个硅晶体管,计算能力已经接近当年的超级计算机,功耗却只有65毫瓦。英伟达也曾推出过集成8个GPU的“超算系统”,计算能力也可以满足大部分人的需求。

  其次就是云服务供应商,也就是上述芯片厂商的客户们。他们不光花重金搭建起来能力超群的分布式计算系统,还贴心的和TensorFlow、caffe等等深度学习框架合作,让算法可以无缝部署在系统上。阿里云在今年推出的异构计算产品最高可提供每秒75万亿次的算力,虽然比起超级计算机还差的远,但性价比却不低。

  最后,还有一大批以研究算法为主的技术供应商。他们虽然不能提供算力,却可以通过种种方式压缩算法模型,让算法模型在更低算力的硬件中也能运行。比如西雅图的一个创业团队,就在一直尝试用二值化神经网络调整模型精度,试图在能耗和成果中找到一个平衡。


一直被喷不实用的超算 在深度学习时代会改变吗?

  加上在深度学习上,高成本、软件环境复杂、数据隐私担忧等等问题仍然有待解决。综合看来超级计算机仍然不是最好的解决方案。

  让人哭笑不得的是,很多人认为深度学习带来的高强度计算要求会推进超级计算机的商业化、民用应用,结果反而是带动了其他算力供应商的发展,给超级计算机造就了更多的竞争对手。

  即使我们暂时还不能在生活场景中享受到超算带来的益处,但超算在天文、物理、军工上带来的贡献仍然是巨大的,如果没有超算,在研发火箭、卫星时几乎无法进行模拟计算。而超算带来的快速、高精度的模拟,为这些高精尖技术的研发节约了无法估计金钱和时间成本。或许,等我们能在火星上观光的那天,就会切实体会到超算带来的福利吧。

    以上是关于网络通信中-一直被喷不实用的超算 在深度学习时代会改变吗?的相关介绍,如果想要了解更多相关信息,请多多关注eeworld,eeworld电子工程将给大家提供更全、更详细、更新的资讯信息。

关键字:深度学习  超级计算机 引用地址:一直被喷不实用的超算 在深度学习时代会改变吗?

上一篇:5G基站建设面临资金难题:运营商专家期望政府给予政策倾斜
下一篇:AlphaGo增强版学会国际象棋和将棋 不到一天超越人类水平

推荐阅读最新更新时间:2024-05-07 17:46

国产AI强势崛起,中国有望全球领跑
  今年7月11日,专注于计算机视觉和 深度学习 的 AI 领军企业商汤科技宣布完成4.1亿美元B轮融资,创下当时全球人工智能领域单轮融资最高纪录。下面就随网络通信小编一起来了解一下相关内容吧。   然而记录还没保持多久,同样以 深度学习 、计算机视觉为核心的人工智能公司旷视科技在10月31日宣布完成4.6亿美元C轮融资,再次刷新了全球人工智能领域单轮融资纪录,旷视科技也成为了全球融资额最高的人工智能独角兽企业。 国产AI强势崛起,中国有望全球领跑   值得一提的是,本轮的领投方中国国有资本风险投资基金是经过国务院授权批准成立,中俄战略投资基金由中俄两国主权财富基金共同设立。两家具有政府背景的基金投资,对于旷视科技业务拓
[网络通信]
英特尔深度学习处理器 加快人工智能创新步伐
近期在法兰克福举办的国际超级计算大会上,涌现了很多令人兴奋的新技术,驱动着广泛应用于各行各业的人工智能和深度学习技术的发展。英特尔为人工智能技术的各个层面提供了一套广泛全面的产品组合,其中包括即将推出的英特尔®至强®可扩展处理器以及英特尔现场可编程门阵列(FPGA),还有即将推出的代号为Knights Mill的英特尔®至强融核™处理器,将深度学习技术提升到了一个新高度。 英特尔®至强融核™处理器Knights Mill加速深度学习处理 这个英特尔至强融核系列的新成员是专门针对深度学习训练进行了优化,预计在2017年第四季度投产。该处理器旨在满足数据科学家、工程师以及所有致力于机器学习技术应用领域的用户独特需求。Kni
[网络通信]
英特尔<font color='red'>深度学习</font>处理器 加快人工智能创新步伐
新一代百亿亿次超级计算机绝地“反击”成功
近日,中国自主研发的超级计算机“神威·太湖之光”在2017国际高性能计算大会上再次蝉联世界超算冠军,拿下了中国国产超算系统在世界计算机冠军宝座上的首个三连冠,再加上之前天河二号六次夺冠的辉煌历史,中国超算在世界舞台十分耀眼。 电子发烧友网讯 近日,中国自主研发的超级计算机“神威·太湖之光”在2017国际高性能计算大会上再次蝉联世界超算冠军,拿下了中国国产超算系统在世界计算机冠军宝座上的首个三连冠,再加上之前天河二号六次夺冠的辉煌历史,中国超算在世界舞台十分耀眼。 但是,聚光灯下的超算虽然“跑”得快、性能好,在应用上却有短板。 “借船出海”不是常胜之策 在“神威·太湖之光”横空出世之前,中国超算天河二号曾是世界高性能计算
[网络通信]
“神威•太湖之光”领先世界超级计算机排行榜
    国家部委研究员何其力在《紫荆》杂志9月号撰文称,首屈一指的“神威•太湖之光”让中国队遥遥领先世界超级计算机排行榜。   何其力在文中表示,6月20日,第47届世界超级电脑500强榜单公布,由中国国家超级计算无锡中心运营的“神威•太湖之光”以世界首度实现每秒超过10亿亿次的运算速度夺冠,同时中国的“天河二号”力挫强敌守住第二名。至此,中国入榜的超级电脑数量已达167台,有史以来首次超过美国的165台,名列全球第一。   “神威•太湖之光”超级电脑由40个运算机柜和8个网络机柜组成,整台设备共有40,960块处理器。其一分钟的计算能力相当于全球72亿人口同时用计算器连续不间断计算32年,是当前全球最快的超级电脑。此外
[手机便携]
即时、精准辨识动态物件 深度学习为自驾车开眼
近年来,机器学习(Machine Learning)相关产业快速发展,其中则以深度学习(Deep Learning)最为引人注目。深度学习能应用之领域无远弗届,举凡生医、机械、资讯等领域,皆透过深度学习取代传统的条件导向之设计;而影像辨识领域透过深度学习,可提高辨识准确性及提高运算效能,为自动驾驶产业中不可或缺之技术。 美国国家公路交通安全管理局(NHTSA)于2016年提出无人驾驶车之不同等级分类,此定义根据国际自动机工程师学会(SAE)依照自动化的程度不同编修而成,其定义如表1。目前通用汽车、宾士、奥迪、日产汽车、BMW、雷诺、特斯拉汽车与Google都预计于2020年,推出至少SAE等级3之自动驾驶车。
[网络通信]
下注深度学习 英特尔扩展AI战线
英特尔支持着数以万计的云和数十亿的智能互联设备。当前,云计算无处不在,计算成本延续摩尔定律的脚步也日益下降,终端连接的可用性也不断提高,这些互联设备每天都在产生数百万 TB 的数据。如何分析这些数据并从中发掘蕴藏的价值是所有人面临的最大机遇之一,而人工智能对于把握这一机遇至关重要。 尽管人工智能时常被视为奇思幻想,常常出现在科幻小说和电影中,但其实它早已应用到我们人类生活的方方面面。从语音转文本 (talk-to-text)、照片标记、欺诈检测等常见用途到精准医疗、伤害预测、自动驾驶汽车等前沿领域,它几乎无处不在。人工智能涵盖高级数据分析、计算机视觉、自然语言处理和机器学习等计算方法,它正在革新企业的运营方式以及人类与世界的互动
[网络通信]
下注<font color='red'>深度学习</font> 英特尔扩展AI战线
海康威视携英伟达 发布深度学习智能安防系统
10月24日,海康威视携手合作伙伴英伟达发布了基于深度学习技术的从前端到后端全系列智能安防产品。从这次选择合作伙伴英伟达来看,海康威视对于英伟达的GPU服务器非结构化数据的计算能力是非常认可的。 据悉,在安防领域99%以上的数据是非结构化数据。很多情况下需要深度学习算法的突破,对目标进行识别,对物体进行检测,对场景进行分割,对人物和车辆属性进行分析。那么此次与英伟达合作使得产品在深度学习上面实现了突破。相比较传统的智能算法。深度学习在解决视频结构化问题方面更智能了。     NVIDIA全球副总裁、中国区总经理张建中先生(左)海康威视总裁胡扬忠先生(右) 随着产品智能化程度的提升,在具体应用领域,海康威视的
[安防电子]
我国超级计算机使用自主知识产权芯片
中央处理器芯片,即CPU,是电脑的核心部件,被称为“计算机的心脏”。全球最快超级计算机“天河一号”,就装载着“中国芯”——这是我国超级计算机首次使用自主知识产权的芯片。据国防科技大学计算机学院“天河一号”工程办公室主任李楠介绍,在国际TOP500组织公布的最新全球超级计算机前500强排行榜中雄居第一的“天河一号”部分采用了国防科技大学自主研制的“银河飞腾-1000”芯片,数量约占全部CPU的1/7。 李楠介绍说,“天河一号”研制之初,除使用了进口CPU之外,其他核心器件、操作系统均为我国自主研制。如今“超高性能CPU”这道难题也迎刃而解。国产“银河飞腾-1000”芯片由国防科技大学专门为“天河”系列计算机量身订制,已逼近
[半导体设计/制造]
小广播
最新网络通信文章
换一换 更多 相关热搜器件
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved