NVIDIA NGC软件在AWS Marketplace上线,加速AI部署

发布者:EEWorld资讯最新更新时间:2020-12-22 来源: EEWORLD关键字:NVIDIA  AWS 手机看文章 扫描二维码
随时随地手机看文章

AI正在改变各行各业。如其他业务一样,好的开始就是成功的一半。

 

为了帮助企业快速的起动,NVIDIA正与AWS展开合作,在AWS Marketplace中直接提供21种NVIDIA NGC软件资源。客户可在AWS Marketplace中搜索、购买,并即刻使用在AWS上运行的软件和服务。

 

image.png


NGC是经过优化、可在NVIDIA GPU云实例上运行的软件目录。这些云实例包括,采用了性能创下MLPerf纪录的NVIDIA A100 Tensor Core GPU的Amazon EC2 P4d实例等。AWS用户可免费部署这些软件,以加速其AI部署。

 

2017年开始,NVIDIA通过NVIDIA NGC目录提供GPU优化软件。随后,业内对此类资源的需求激增。目前,已有超过25万用户下载了该目录中所提供的超过100万个AI容器、预训练模型、应用框架、Helm图表和其他机器学习资源。

 

携手共创云服务的另一先河

 

AWS是第一家在其市场上提供NGC目录的云服务供应商。在进行新的部署时,许多企业机构首先会将目光投向云。因此,数据科学家和开发者可随心所欲地使用NGC软件,助力企业取得成功。借助NGC,他们可以在AWS生态系统中,轻松启动新的AI项目。

 

AWS Marketplace主管Chris Grusz表示:“在加速计算领域,AWS和NVIDIA已经合作了十多年。我们十分荣幸能够在AWS Marketplace中提供NVIDIA NGC目录。现在,借助从AWS Marketplace中直接获取的NVIDIA NGC软件,客户可在AWS上直接访问和部署这些专用软件资源,由此简化并加速其AI部署流程。”

 

NGC AI容器在AWS Marketplace上首发

 

为帮助数据科学家和开发者构建和部署AI解决方案,NGC目录提供数百种NVIDIA GPU加速机器学习框架和特定行业软件开发套件。12月18日,NGC在AWS Marketplace中发布,其中包含NVIDIA在医疗健康、推荐系统、对话式AI、计算机视觉、HPC、机器人技术、数据科学和机器学习领域最前沿的GPU加速AI软件,包括:

 

NVIDIA AI:一款框架和工具套件,包括MXNet、TensorFlow、NVIDIA Triton 推理服务器和PyTorch。

 

NVIDIA Clara Imaging:NVIDIA的域优化应用框架,可加速针对医学影像用例的深度学习训练和推理。

 

NVIDIA DeepStream SDK:一款多平台、可扩展的视频分析框架,可在边缘部署,并连接到任何云端。

 

NVIDIA HPC SDK:一款HPC编译器、库和软件工具套件。

 

NVIDIA Isaac Sim 机器学习训练:一款工具包,可帮助机器人机器学习工程师使用Isaac Sim生成合成图像,从而训练对象检测深度神经网络。

 

NVIDIA Merlin:一款开源beta框架,用于构建大规模深度学习推荐系统。

 

NVIDIA NeMo:一款开源Python工具包,用于开发最新对话式AI模型。

 

RAPIDS:一套开源数据科学软件库。

 

即时访问性能优化的AI软件

 

AWS Marketplace中的NGC软件带来许多优势,为数据科学家和开发者在AI领域的成功奠定基础。

 

更快的软件获取:借助AWS Marketplace,开发者和数据科学家可轻松访问最新版本的NVIDIA AI软件。

 

最新版本的NVIDIA软件:AWS Marketplace中的NGC软件实现了版本同步。因此,最新版本的软件在NGC目录中上线后,AWS用户就可以立即访问。该软件会不断优化,每月都能为用户提供最新的功能和性能改进。

 

简化软件部署:Amazon EC2、Amazon SageMaker、Amazon Elastic Kubernetes Service(EKS)和Amazon Elastic Container Service(ECS)用户可以在NVIDIA GPU实例上,快速订阅、提取和运行NGC软件,以上步骤均可在AWS管理控制台内完成。此外,SageMaker用户无需再将容器存储在Amazon Elastic Container Registry(ECR)中,从而简化了工作流程。

 

持续集成和开发:AWS Marketplace还提供NGC Helm图表,帮助DevOps团队快速、持续地部署服务。


关键字:NVIDIA  AWS 引用地址:NVIDIA NGC软件在AWS Marketplace上线,加速AI部署

上一篇:物联网在各行各业中的布局
下一篇:贸泽智能革命系列电子书带您了解AI在公共安全领域的作用

推荐阅读最新更新时间:2024-11-08 17:23

高通总裁安蒙:产能紧张睡不好觉 反对NVIDIA收购Arm
近日,高通总裁兼候任CEO克里斯蒂亚诺·安蒙(以下简称安蒙)接受了美国媒体CENT的采访,回应了近期包括产能紧张,新CEO任命以及NVIDIA收购Arm等诸多热点话题。 安蒙表示,半导体行业的产能紧张问题让其“夜不能寐”,半导体行业正遭遇供应链危机,这一情况可能要到今年下半年才会缓解。对于高通任命其成为新任CEO,安蒙透露出乎其意料之外,在公司正式宣布前三天才知晓。采访中安蒙再次表达了对于NVIDIA收购Arm的反对意见,认为其动摇了Arm的独立性,并不利于Arm生态的发展。 因缺货睡不好觉 去年下半年以来,整个半导体行业开始普遍遭遇产能紧张的情况。因疫情初期产生的订单减少以及随后市场需求增加加速了整个行业的缺货局面。 “如果
[手机便携]
英伟达推超级计算机云租赁服务 黄仁勋:人工智能的iPhone时刻已经开启
北京时间3月22日早间消息,据报道,当地时间周二,英伟达首席执行官黄仁勋宣布一项计划,将面向商业客户开放用于开发ChatGPT等人工智能技术的超级计算机,几乎任何企业都可以以云租赁的方式使用这些强大但成本昂贵的设备。    英伟达的租赁价格并不便宜,包含8个A100或H100旗舰芯片的价格为每月3.7万美元。不过,面向更广泛商业客户开放这种超级计算机将加速人工智能的发展。过去一段时间人工智能技术的火爆已经推动英伟达股价今年上涨77%,市值达到长期竞争对手英特尔的大约五倍。    英伟达目前在人工智能芯片行业处于主导地位,并帮助微软等合作伙伴为ChatGPT的开发者OpenAI构建了庞大的系统,以实现用人类语言回答问题,或是根据提示
[物联网]
Nvidia Tegra X1 SoC揭秘:八核心CPU + Maxwell GPU
        在CES 2015上,Nvidia将为下一代Tegra处理器召开一场新闻发布会,它就是千呼万唤始出来的Tegra X1。该芯片的“前身”为Erista,作为一款64位的“超级移动芯片”,它带来了Maxwell架构的GPU核心——包括256个着色处理器(shader processors)、以及“big.LITTLE”架构的八核CPU(4 x A57 + 4 x A53)。 该公司CEO黄仁勋并未透露Tegra X1 SoC的频率,但表示其TDP为10W。该芯片基于20nm工艺打造,能够播放60fps的4K视频(无论是H.265还是VP9编码)。 黄仁勋称,在相同功耗下,Tegra X1的性能为Tegr
[手机便携]
3nm代号Blackwell NVIDIA下一代显卡首曝光
近日,在Arete技术大会上,NVIDIA副总裁、数据中心业务总经理Ian Buck确认了会在2024年推出Hopper继任者的消息。 根据爆料,取代Hopper的下代GPU代号Blackwell。在此之前,外界就曾挖到名为GB100和GB102的新核心,算是比较有力的证据。据称NVIDIA正与台积电协作,致力于采用3nm工艺节点来制造Blackwell GPU。 从规格上来看,当前的Hopper的计算密度比RTX 4090还要高,下一代Blackwell肯定会更加强力。稍稍遗憾的是,到底RTX 50系显卡的新GPU会选用哪位科学家代号,还是个谜。
[家用电子]
Nvidia显卡遭遇Vista兼容问题面临集体诉讼
来自海外的消息:一名纽约人最近建立了一个新网站,寻求更多人支持他对图形芯片生产商Nvidia提出集体诉讼,因为这家公司的高端8800显卡给他带来了麻烦。 这个网站(NvidiaClassAction.info)呼吁购买了高端Nvidia 8800显卡而又打算在Windows Vista电脑上安装的消费者加入集体起诉的行列。“Nvidia称8800是专为Windows Vista设计的...但实际更好相反,”该网站的创办人Dan Goldman说。 Goldman是纽约的一名投资者和IT顾问,据他声称,今年一月末、即Windows Vista正式上市之前,他买了华硕公司的一块售价达700美元的显卡。在二月份升级到微软这种最新的操作
[焦点新闻]
NVIDIA积极准备新一代40nm GPU芯片
  虽然NVIDIA一贯在生产工艺方面比较保守,但也许是经历了GT200之痛的后果,NVIDIA已经改变态度,不但正在向55nm过渡,还在积极准备下一代40nm工艺的GPU芯片。   当然了,迅速转向新工艺总是很冒险的,但NVIDIA可能已经做了慎重的原型模拟测试,台积电40nm工艺的良率和稳定性也应该已经(或者即将)达到了让人满意的程度。   NVIDIA的首颗40nm GPU将出现在笔记本上,代号“N10x”,是现在65/55nm NB9x的继任者,发布时间不明。至于桌面何时应用40nm,还不清楚具体的计划,不过NVIDIA有望升级现有桌面型号的工艺(GT200绕过55nm直接转入40nm?),以求降低成本和功耗,因此GX
[焦点新闻]
智能手机和PC降温,英伟达英特尔等把钱砸向了AI
  据华尔街日报报道,随着智能手机和PC市场降温,芯片厂商们在争相开发人工智能产品来驱动增长。下面就随网络通信小编一起来了解一下相关内容吧。    英伟达 、 英特尔 、AMD以及大量的创业公司在打造新的处理器产品,来挖掘一个规模更大的面向AI硬件和软件的市场。据市场研究公司IDC估计,该市场的年增长率达到50%。   在半导体行业的一些领域,增长已经变得有些捉摸不定,这引发了一大波行业整合行动。上周,网络化专业技术公司博通更是提出以1050亿美元的天价收购智能手机芯片领头羊高通。如果该交易最终达成,那它会是迄今为止该行业规模最大的一笔交易。   IDC估计,到2021年,AI相关硬件和软件的全球支出可能会从今年的120亿美元增
[网络通信]
Samsung 想为NVIDIA代工
 Samsung 电子已经是全球第三大合约芯片制造商,但随着 Apple 坚定地转向台积电, Samsung 必须寻找新的出路。有消息称, Samsung 已经盯上了亚马逊、 Sony 、NVIDIA。   《韩国时报》从消息人士处获悉:“ Samsung 已将亚马逊、 Sony 、NVIDIA视为潜在客户,希望通过他们来弥补 Apple 减少采购带来的损失。 ”   对于 Apple 的举动, Samsung 表示很失望,不过根据双方2011年签署的协议, Samsung 会在2014年底之前一直为 Apple 供应芯片,iPhone 5S、iPad 5等下代产品都仍会是 Samsung 芯。   消息人士补充说, Sam
[半导体设计/制造]
小广播
最新物联网文章
换一换 更多 相关热搜器件

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved