NVIDIA AI Enterprise套件让各行各业释放AI潜能

发布者:EEWorld资讯最新更新时间:2021-03-10 来源: EEWORLD关键字:NVIDIA 手机看文章 扫描二维码
随时随地手机看文章

 NVIDIA于今日发布NVIDIA® AI Enterprise软件套件。该软件套件包括经NVIDIA全面优化、认证和支持的企业级AI工具和框架,专用于同样在今日发布的VMware vSphere 7 Update 2。

 

NVIDIA与VMware通过业内首创的合作开发了AI就绪型企业级平台,双方使用NVIDIA AI Enterprise在VMware vSphere上实现了AI工作负载的虚拟化。该平台为企业提供开发各种AI解决方案所需的软件,例如医疗健康领域的高级诊断、制造业的智能工厂、金融服务领域的欺诈检测等。

 

如今,通过NVIDIA AI Enterprise软件套件,来自数十万家使用vSphere实现计算虚拟化的企业IT专业人员,可以使用其大型数据中心和混合云环境的管理工具为AI提供支持。NVIDIA软件套件可在vSphere上提供可扩展、多节点AI应用性能,与裸金属服务器无异。

 

NVIDIA副总裁兼企业及边缘计算总经理Justin Boitano表示:“此前,全世界都在裸金属服务器上运行AI。NVIDIA AI Enterprise使客户能够将AI模型的开发时间从80周缩短到8周。现在,客户能够在VMware vSphere上部署和管理高级AI应用,并且像在裸机上一样获得可扩展的、首屈一指的NVIDIA加速计算性能。”

 

VMware云平台事业部营销副总裁Lee Caswell表示:“每家企业都在探索如何通过实现基础设施的现代化来满足AI应用需求。借助NVIDIA AI Enterprise和vSphere 7 Update 2,VMware客户现在能够在其虚拟化数据中心中快速应用AI,并为他们的现代化应用程序轻松部署经认证的AI就绪型基础设施。”

 

推动先进企业级AI的发展

 

最先使用NVIDIA AI Enterprise for vSphere的企业包括联合健康集团旗下的Optum Technology。

 

Optum Technology高级首席工程师Justin Potuznik表示:“AI在Optum为联合医疗健康提供的数据驱动服务中扮演着日益重要的角色。通过在我们的VMware vSphere环境中运行NVIDIA AI Enterprise软件和基础设施,将对我们的现代化应用工作负载提供支持,并让我们高效地部署企业级AI。”

 

灵活的混合云AI基础设施

 

NVIDIA AI Enterprise为在混合云中运行的各种加速CUDA®应用、AI框架、预训练模型和软件开发工具包提供兼容性。工作负载经过优化后,能够在多个节点上扩展,从而为具有完整GPU虚拟化的大型深度学习训练模型提供支持。

 

为了支持NVIDIA AI Enterprise中的应用,VMware vSphere 7 Update 2基于NVIDIA A100 Tensor Core GPU,并现已通过NVIDIA认证系统 ™的认证。获得NVIDIA认证系统认证的服务器包括戴尔科技、新华三、慧与、浪潮、联想和超微等高容量服务器。该认证使获得NVIDIA AI Enterprise许可证的vSphere客户可以直接获得NVIDIA的客户支持。

 

NVIDIA还将vSphere认证为唯一一款使用NVIDIA多实例GPU技术为实时迁移提供虚拟机监视器支持的计算虚拟化软件。多实例GPU技术可以在硬件层面将每个A100 GPU分割成多达7个实例,从而最大限度地提高各种规模工作负载的效率。

 

此外,部分NVIDIA ConnectX网卡现已通过VMware vSAN over RDMA认证。这项技术可卸载CPU通信任务,从而提升应用性能并提高基础设施的投资回报。

 

NVIDIA AI Enterprise以永久许可证的方式提供,每个CPU插槽的价格为3,595美元。每个NVIDIA AI Enterprise企业级业务标准支持级别的许可证每年费用为899美元。计划升级到VMware vSphere 7 Update 2的客户可以申请NVIDIA AI Enterprise的早期试用。

 

如欲了解关于在VMware混合云中使用AI的更多信息,请阅读NVIDIA博客和VMware vSphere 7 Update 2博客。GTC 2021免费注册现已开放,NVIDIA和VMware将在此次大会上介绍如何将AI带给每一家企业。

 

珠联璧合:NVIDIA与VMware联合发布AI就绪型企业级平台


此外,经NVIDIA优化、认证并支持用于VMware vSphere的NVIDIA AI Enterprise套件,为混合云带来AI和数据科学应用的扩展性能和兼容性 。

                                                image.png

 

由于企业纷纷通过对数据中心进行现代化升级来为AI应用和数据科学提供支持,NVIDIA和VMware大幅简化了现代混合云中各种不同AI工作负载的开发和部署。

 

两家公司联合使用NVIDIA AI Enterprise软件套件对刚刚发布的vSphere更新——VMware vSphere 7 Update 2进行了AI应用优化(见下图1)。对于数十万家使用vSphere实现计算虚拟化的企业而言,这一组合为他们的大量加速CUDA应用、AI框架、模型和SDK实现了扩展性、多节点性能和兼容性。

 

通过此次业内首创的合作,AI研究人员、数据科学家和开发者获得了成功交付AI项目所需的软件,而IT专业人员能够使用他们最熟悉的大规模数据中心管理工具为AI提供不折不扣的支持。

 

image.png

图1:用于VMware vSphere的NVIDIA AI Enterprise在NVIDIA认证系统上运行,使IT部门能够轻松地大规模部署虚拟化AI。

 

完整齐全的企业级AI套件

 

NVIDIA AI Enterprise是一套完整齐全的企业级AI工具和框架,它能够帮助制造、物流、金融服务、零售和医疗健康等众多关键行业优化业务流程、提升效率。凭借NVIDIA AI Enterprise,科学家和AI研究人员可以轻松访问NVIDIA领先的AI工具,推动高级诊断、智能工厂、欺诈检测等项目的AI发展。

 

该解决方案解决了部署单个AI应用的复杂性问题,以及由于必须手动配置和管理各种不兼容的应用和基础设施软件而可能导致的潜在故障。

 

凭借在vSphere上运行的NVIDIA AI Enterprise,客户可以避免难以管理和不安全的AI专用系统孤岛。同时,还可以降低部署shadow AI(即数据科学家和机器学习工程师在IT生态系统之外采购资源)的风险。

 

在获得NVIDIA许可证后,AI Enterprise for vSphere可在NVIDIA认证系统上得到支持。获得NVIDIA认证系统认证的服务器包括戴尔科技、新华三、慧与、浪潮、联想和超微等高容量服务器。即便是最先进、要求最严苛的AI应用,也能像传统企业工作负载一样,在通用基础设施上通过VMware vCenter等数据中心管理工具轻松获得支持。

 

IT部门可以管理可用性、优化资源分配,并在本地和混合云中运行的AI工作负载保障其宝贵的IP和客户数据的安全。

 

可扩展多节点虚拟化AI性能

 

NVIDIA AI Enterprise使虚拟工作负载能够在vSphere上以接近裸金属的性能运行,并通过NVIDIA A100 GPU在AI和数据科学领域获得突破性性能(见下表1)。现在,AI工作负载可以扩展到多个节点,即便是具有完整GPU虚拟化的最大规模的深度学习训练模型也可以在VMware Cloud Foundation上运行。

 

image.png

表1:用于 vSphere的NVIDIA AI Enterprise使分布式深度学习训练可线性扩展至多个节点,并提供与裸机完全相同的性能。

 

AI工作负载规模不一,对数据的要求也不尽相同。有些需要处理图像,例如实时流量报告系统或网上购物推荐系统等;另一些则基于文本,比如由对话式AI驱动的客户服务支持系统等。

 

训练一个AI模型需要使用的数据量可能令人难以置信,而且需要在多个节点的多个GPU上扩展性能。在部署中的模型上运行推理所需的计算资源一般较少,并且可能不需要用到整个GPU的性能。

 

NVIDIA与VMware一起将vSphere打造成唯一一款通过NVIDIA多实例 GPU(MIG)技术为实时迁移提供虚拟机监视器支持的计算虚拟化软件。凭借MIG技术,每个A100 GPU可以在硬件层面被分割成多至7个实例,从而最大限度地提高各种规模工作负载的效率。

 

丰富的AI应用和基础设施资源

 

NVIDIA AI Enterprise包含了NVIDIA的关键技术和软件。通过它们,可以在VMware Cloud Foundation上运行的虚拟化数据中心中快速部署、管理和扩展AI工作负载。

image.png

NVIDIA AI Enterprise是一款经过认证的端到端套件,包含了NVIDIA的关键AI技术、应用及企业支持服务。

 


关键字:NVIDIA 引用地址:NVIDIA AI Enterprise套件让各行各业释放AI潜能

上一篇:贸泽电子发布全新RISC-V资源页面
下一篇:技术科普:RISC-V到底“火”在哪

推荐阅读最新更新时间:2024-11-03 09:01

英伟达开始发力涉足车联网
    位于加州圣巴巴拉的芯片制造商英伟达(Nvidia)以对GPU(图形处理器)的创新而闻名世界。长久以来,英伟达的芯片在PC、笔记本电脑、工作站和超级计算机上得到了广泛的应用。但有一件事你可能会有些吃惊:英伟达目前在致力于将汽车转变为更加高效的感应器驱动的移动互联设备。   目前,全球已经有400万部汽车配置了英伟达Tegra芯片。通过与宝马、劳斯莱斯、大众、奥迪、阿斯顿马丁等德国、日本、美国厂商的高端车型的合作,有2500万部配备了英伟达芯片的汽车正在等待下线。   英伟达的汽车应用开发包被称为“Jetson”,该开发包是一个安装在汽车引擎盖下大约为汽车音响体积的盒子。其内部集成了现代车辆所需的全部I/O连接器,包括USBht
[手机便携]
拼上最后一块“CPU拼图” 集齐“三芯”的英伟达想召唤什么
芯点评──以最快的速度了解产业时事新闻,以最独到的角度点评产业发展趋势。 集微网报道,以GPU见长的英伟达发布了首款基于Arm架构的数据中心CPU,或许令不少人惊讶。今年的GTC 21上,皮衣教主黄仁勋又一次在自家厨房进行他的重磅主题演讲,介绍了英伟达AI、汽车、机器人、5G、实时图形、协作和数据中心等领域的最新进展。 随着CPU拼图的凑齐,英伟达进入了CPU、GPU和DPU“三芯”组合拳时代。 而面向未来AI、自动驾驶、5G更智能的时代,巨头们似乎都做出了相似的选择——去年以CPU见长的英特尔发布了自研GPU;AMD也在拥有CPU和GPU的基础上要收购FPGA。 芯片融合时代不断深入,这也意味着芯片行业的竞争已经进入了新的阶段
[手机便携]
IBM联合英伟达发布NVLink 将与PCIe抢市场
    英伟达和IBM今日宣布推出名为NVLink的高速互联。这项新技术将集合到英伟达的未来GPU里,预计2016年将开始引入Pascal GPU架构,同时还有IBM未来版本的强大处理器。公司表示,NVLink使得GPU和CPU可以以现在速度的5-12倍分享数据,减小“长期存在的瓶颈”。这两个公司认为这项创新将为新一代的百亿亿级超级计算机铺平道路,后者将比现在最强大的超级系统还有快速50至100倍。 英伟达和IBM预计这次改进将影响各种应用,它们认为高性能的计算能力、数据分析和机器学习改进能力将尤为得到提升。公司表示,高带宽的互联将改善加速软件应用程序的性能: 由于记忆系统的差异——GPU有更快但更小的内存,而CPU有较大但较慢
[手机便携]
Nvidia证实提前使手机显示效能超越Xbox 360
    在今年由Nvidia在上海所举办的NGF 2012大会期间,除了公布GeForce Experience与GeForece GTX690的消息以外,官方也进一步证实确实将在2015年前让行动装置的显示效能表现可超越现有电玩主机。 Nvidia共同创办人暨执行长黄仁勋     在先前公布代号「Kepler」的显示卡技术规格,并且公布作为首发的GeForce GTX680之后,Nvidia共同创办人暨执行长黄仁勋曾经透过电子邮件鼓励旗下员工表示「Kepler」的发表仅只是个开始,未来将会进一步针对行动装置的显示效能发展作为目标,同时稍早也传出一张由Nvidia所公布的发展蓝图内容,其中显示官方预估行动装置的显示效能将在201
[手机便携]
Spansion携手NVIDIA共同打造下一代汽车数字仪表盘
2012年2月28日,中国上海 – Spansion公司(NYSE: CODE)日前宣布全球视觉计算技术的行业领袖NVDIA(英伟达)(纳斯达克代码:NVDA)将在其Tegra(图睿)处理器中应用Spansion® GL闪存产品,用于车载娱乐、数字仪表盘及先进的驾驶员辅助系统(ADAS)。如今新一代汽车中配备的汽车仪表和车载娱乐广泛采用交互性图形显示,技术日趋复杂。英伟达的图睿车用片上系统(SoC)具有强大的超逼真3D功能和渲染能力,集成Spansion闪存可谓如虎添翼,使得平滑、逼真且个性化的数字仪表盘成为现实。目前,奥迪、宝马、兰博基尼、特斯拉等众多名牌汽车都采用了英伟达处理器。 Spansion公司的GL并行NOR闪存具有
[汽车电子]
闪存价格暴跌,英特尔正在蚕食 AMD 和 Nvidia
一个鲜为人知的事实是,英特尔凭借其在集成显卡上的领先地位,持续占据着电脑显卡市场的头把交椅。但是随着过去两年中首席执行官的意外变动、到芯片缺货、到Meltdown与Spectre漏洞的曝光、再到10nm处理器的延迟发布,一系列的事件下唱衰英特尔似乎也已经成为一种主流的观点。但事实果真如此吗?本文的作者有话说,他认为凭借一些根本性的优势,英特尔最终最有机会脱颖而出。 作者 | Daniel Newman 译者 | 苏本如,责编 | 郭芮 以下为译文: 半导体行业现在似乎陷入了困境。 国际数据公司(IDC)上周预测,经过连续三年的增长后,今年的半导体市场将迎来7%的下滑。具有讽刺意味的是,芯片短缺在一定程度上导致
[物联网]
闪存价格暴跌,英特尔正在蚕食 AMD 和 <font color='red'>Nvidia</font>?
NVIDIA 机器人仿真开发平台的特点
智能机器人的研发往往需要掌握许多领域的专业知识,这对于 初学者和初创来说,具有极高的技术门槛。 “Isaac 提供了一个机器人开发、训练和的集合,大大降低了机器人的开发难度,降低了研发的技术门槛。” 这是知乎大咖机器人孔博士(知乎粉丝 10 万+,机器人领域科技创新和应用者)对于 Isaac 的见解与评价。本期文章我们将分享机器人孔博士的深度文章《如何快速地让机器人变得更智能,更聪明?》。 为什么智能机器人的研发门槛高? 因为研发一款智能机器人需要掌握机械和、驱动程序、各种、规划算法、视觉、人工智能(包括、、人工神经网络等)多个领域的专业知识。这对于初学者和初创公司具有极高的技术门槛。 最近,我发现了一款好产品
[机器人]
一个是自动驾驶芯片一个PC芯片,英特尔被“冤枉”了?
英特尔 (Intel)执行长Brian Krzanich在本届美国洛杉矶车展(AutoMobility LA)上,强调英特尔旗下由Mobileye所开发的自驾车芯片EyeQ 5,比 NVIDIA 近期新发表的Drive PX Xavier系统单芯片(SoC)在深度学习(DL)效能表现上高出1倍以上,对此英特尔自驾车解决方案架构长兼首席工程师Jack Weast表示,英特尔不是特别会夸耀自家芯片性能的公司,但随着近来在自驾车芯片性能比较的讨论战火升温,英特尔有必要为自家芯片性能做出说明,因英特尔对于被错误评比已感到厌倦。    根据科技网站EE Times及Auto Connected Car报导,Weast对于英特尔竞争对手及媒体
[汽车电子]
小广播
最新嵌入式文章
何立民专栏 单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

换一换 更多 相关热搜器件

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved