全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成式 AI 性能

发布者:EE小广播最新更新时间:2023-08-23 来源: EEWORLD关键字:NVIDIA  服务器  AI 手机看文章 扫描二维码
随时随地手机看文章

戴尔科技、慧与和联想即将推出采用 NVIDIA L40S GPU 和 NVIDIA BlueField 的服务器,以支持 VMware Private AI Foundation with NVIDIA


 image.png


拉斯维加斯 — VMware Explore — 太平洋时间 2023 年 8 月 22 日 — NVIDIA 今日宣布,全球领先的系统制造商将推出 AI 就绪型服务器,其支持同于今日发布的 VMware Private AI Foundation with NVIDIA,帮助企业使用自有业务数据来定制和部署生成式 AI 应用。


NVIDIA AI 就绪型服务器将采用 NVIDIA® L40S GPU、NVIDIA BlueField®-3 DPU 和 NVIDIA AI Enterprise 软件使企业能够微调生成式 AI 基础模型并部署生成式 AI 应用,比如智能聊天机器人、搜索和摘要工具等。这些服务器还提供由 NVIDIA 加速的基础设施和软件,以支持 VMware Private AI Foundation with NVIDIA。


作为全球领先的系统制造商的戴尔科技、慧与和联想,将于年底前推出搭载 NVIDIA L40S 的服务器,以加速推进企业级 AI 的发展。


NVIDIA 创始人兼首席执行官黄仁勋表示:“全新的计算时代已经来临,各行各业的企业都在竞相采用生成式 AI。我们正在通过涵盖全球顶尖软件和系统合作伙伴的生态系统,将生成式 AI 带给全球企业。”


对于将部署 VMware Private AI Foundation with NVIDIA 的企业来说,NVIDIA AI 就绪型服务器是一个理想的平台。

 

VMware 首席执行官 Raghu Raghuram 表示:"生成式 AI 正在大力推动数字化转型进程,企业需要一种全面集成的解决方案,以更加安全地构建应用,从而推动业务发展。通过 VMware、NVIDIA、以及我们服务器制造商合作伙伴的专业知识相结合,企业将能够在确保数据隐私、安全和可控性的前提下开发和部署 AI。


助推企业生成式 AI 转型


各行各业正在竞相将生成式 AI 用于药物研发、零售产品描述、智能虚拟助手、制造模拟、欺诈检测等各种用途,NVIDIA AI 就绪型服务器将为这些行业提供全栈加速基础设施和软件。


这些服务器采用 NVIDIA AI Enterprise,即 NVIDIA AI 平台的操作系统。该软件为 100 多个框架、预训练模型、工具套件和软件提供生产就绪型企业级支持和安全性,包括用于 LLM 的 NVIDIA NeMo™、用于模拟的 NVIDIA Modulus、用于数据科学的 NVIDIA RAPIDS™ 和用于生产型 AI 的 NVIDIA Triton™ 推理服务器。


专为处理包含数十亿参数的复杂 AI 工作负载而打造的 L40S GPU 搭载第四代 Tensor Core 和 FP8 Transformer 引擎,可提供超 1.45 PFLOPS 的张量处理能力,其训练性能是 NVIDIA A100 Tensor Core GPU 的 1.7 倍。


相较于 NVIDIA A100 GPU,NVIDIA L40S 可将智能聊天机器人、助手、搜索和摘要等生成式 AI 应用中的生成式 AI 推理性能提高 1.2 倍。


通过集成 NVIDIA BlueField DPU,可加速、卸载和隔离巨大计算工作负载,其中包含虚拟化、网络、存储、安全,以及其他云原生 AI 服务,以进一步提高速度。


NVIDIA ConnectX®-7 智能网卡提供先进的硬件卸载和超低延迟,可为数据密集型生成式 AI 工作负载提供同类领先的可扩展性能。


推动企业生成式 AI 部署的庞大生态系统


全球领先的计算机制造商正在构建 NVIDIA AI 就绪型服务器,包括戴尔 PowerEdge R760xa、适用于 VMware Private AI Foundation with NVIDIA 的慧与 ProLiant Gen11 服务器以及联想 ThinkSystem SR675 V3。


戴尔科技主席兼首席执行官 Michael Dell 表示:“生成式 AI 是创新的‘催化剂’,将助力解决一些全球性的重大挑战。而采用 NVIDIA AI 就绪型服务器的戴尔生成式 AI 解决方案将扮演至关重要的角色,即通过推动生产力水平实现前所未有的提升,并变革工业运营的方式,以加速人类的进程。”


慧与总裁兼首席执行官 Antonio Neri 表示:“生成式 AI 将推动企业生产力规模的全新扩展 —— 从赋能聊天机器人和数字助理,到帮助设计和开发新的解决方案。我们很高兴能继续与 NVIDIA 密切合作,在一系列企业级调优和推理工作负载解决方案中采用 NVIDIA 的 GPU 和软件,这将加速生成式 AI 的部署。”


联想集团主席兼首席执行官杨元庆表示:“企业迫切希望采用生成式 AI 来推动智能化转型。通过与 NVIDIA 和 VMware 合作,联想正在进一步扩大自身在生成式 AI 领域的领先地位,并巩固自身的独特定位,即在客户采用 AI 的旅程中为其提供帮助。”


供应情况


搭载 L40S GPU 和 BlueField DPU 的 NVIDIA AI 就绪型服务器将于年底前上市,云服务提供商预计将在未来几个月提供实例。


关键字:NVIDIA  服务器  AI 引用地址:全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成式 AI 性能

上一篇:芯科科技宣布推出下一代暨第三代无线开发平台,打造更智能、更高效的物联网
下一篇:VMware 与 NVIDIA 为企业开启生成式 AI 时代

推荐阅读最新更新时间:2024-11-04 00:29

AI赋能智能制造(三)| 突破单体智能,机器人如何展现群体高智商
通过上一期系列文章,我们从“看得懂、停得准、走得稳”三个层面对边缘节点之海康威视移动机器人进行了全面解读,今天我们将从海康威视AI Cloud体系中的边缘节点过渡到下一个圈层——边缘域,从RCS机器人控制调度系统、iWMS智能仓储管理系统到VM算法平台,依次剖析,揭开智造未来的面纱。 本期主讲 AI赋能智能制造系列之RCS机器人控制调度系统 随着智能制造成为企业转型升级的重点,将聪明的机器人放入复杂的制造业, 实现大规模的柔性生产,单凭一“人”之力是远远不够的。管理一个聪明的机器人团队,使它们汇集在一起高效协作,则不是件易事。 处于AI Cloud框架中边缘域之一的RCS机器人调度控制系统(以下简称“RCS”),通过融合运
[机器人]
【观点】余凯年度总结:揭开中国人工智能的真实现状
2016 年,人工智能在美好理想和残酷现实的夹缝中野蛮生长。 当从业者们认为,人工智能时代是“技术为王”的时代,但面对价格战、商务战、公关战时,技术似乎不再是唯一的信仰。当从业者们认为,手握学术大牛、刷爆各种榜单就能所向披靡时,“AI 产品经理比科学家重要”、“刷榜是没意义的”等反驳性观点也越来越被业内认可。当从业者们认为,招一大批名校博士就可与巨头比划时,虚高的薪水和拿不出手的产品让企业不得不开始考虑性价比的问题。 雷锋网第 100 期硬创公开课特邀余凯博士为大家做了一期以《人工智能的冰与火之歌:回顾 2016,展望 2017》为主题的公开课,分享了他对今年 AI 现象的看法以及对未来的展望。 嘉宾介绍: 余凯,地平线机器人
[机器人]
索尼投资树莓派,将为其提供AI技术支持
索尼半导体解决方案公司(SSS, Sony Semiconductor Solutions)以及树莓派公司 Raspberry Pi Ltd.(RPL)4 月 12 日宣布,索尼将对树莓派进行战略投资。 索尼公告称,此次少数股权投资巩固了两家公司之间的关系,为索尼 SSS 的尖端 AI 设备向全球树莓派用户社区提供开发平台。 图源:Sony Semiconductor Solutions 索尼半导体解决方案公司总裁兼首席执行官 Terushi Shimizu 表示:“我们的目标是为各种行业提供新价值,并支持他们使用我们围绕图像传感器构建的创新尖端 AI 传感技术解决问题。我们很高兴与树莓派公司 RPL 合作,将我们
[嵌入式]
索尼投资树莓派,将为其提供<font color='red'>AI</font>技术支持
爱芯元智亮相ICCAD 2021:详解自研芯片AI赋能ISP提升画质
随着产业智能化的深入,集成电路市场规模迎来新一轮上升趋势,其中AI芯片已成为引领产业增长的主流方向之一。12月22日-23日,中国集成电路设计业2021年会暨无锡集成电路产业创新发展高峰论坛(ICCAD 2021)在无锡太湖国际博览中心开幕,爱芯元智半导体(上海)有限公司受邀参会。公司ISP负责人、系统架构师张兴出席“IP与IC设计服务”专题论坛,并发表了以AI成像为主题的演讲,详细介绍了AI赋能对图像、视频画质提升的重要作用和技术原理。 不止于算法 爱芯元智两大核心技术拓展行业“天花板” 公开资料显示, 爱芯元智 是一家专注于 AI视觉技术研发及基础算力平台公司 ,2019年5月成立后,仅用9个月时间便流片成功,
[嵌入式]
爱芯元智亮相ICCAD 2021:详解自研芯片<font color='red'>AI</font>赋能ISP提升画质
华为7亿元建新公司 或强化信息安全、大数据AI等软件业务
近日,由华为技术有限公司全资持股的超聚变技术有限公司(以下简称“超聚变”)注册成立。据集微网了解,在华为提升软件业务营收占比的背景下,超聚变的成立,可能意味着其在针对企业、行业等领域的信息安全、大数据、人工智能等业务方面的强化。 此次超聚变公司的注册地为苏州工业园。据了解,早在2012年,华为便在该园区投资设立华为数字技术(苏州)有限公司, 定位为华为国内企业业务总部。2019年8月,苏州市政府与华为公司签署了深化战略合作协议。苏州工业园区将与华为公司共同建设华为(苏州)人工智能创新中心。 因此,超聚变成立在苏州,有利于华为在信息安全、大数据、人工智能等业务上形成协同。 工商信息显示,超聚变公司的法人、执行董事、总经理为郑丽英。
[手机便携]
消息称英伟达、AMD 将制造基于 ARM 的 PC 芯片,挑战英特尔和苹果
10 月 24 日消息,据路透社报道,人工智能芯片巨头英伟达已经开始设计能够运行微软 Windows 操作系统的中央处理器(CPU),并使用 Arm 公司的技术。消息人士透露,AMD 也计划制造基于 Arm 的 PC 芯片。这些芯片预计将在 2025 年左右上市。 英伟达和 AMD 的举动是微软推动芯片公司为 Windows PC 开发基于 Arm 的处理器的一部分。微软的目标是挑战苹果,后者自主开发了基于 Arm 的芯片,并在过去三年内将其 Mac 电脑的市场份额提高了近一倍。 这意味着英伟达和 AMD 将加入高通公司的行列,高通公司自 2016 年以来一直在为笔记本电脑生产基于 Arm 的芯片。英伟达、AMD 和高通可能会
[家用电子]
在嵌入Linux系统(OK6410)中移植Boa 服务器
OK6410的Boa服务器移植: 一 Boa的编译 1. 从 www.boa.org 下载 Boa 服务器的最新版:boa-0.94.13.tar.gz。 2. 解压:tar xzf boa-0.94.13.tar.gz 3. 进入解压后的文件夹 boa-0.94.13内部的 src文件夹,对源文件进行如下修改 1 由于arm-linux-gcc 编译器版本过高,对语法的支持有一些改变,所以需要修改compat.h中的 2 #define TIMEZONE_OFFSET(foo) foo##- tm_gmtoff 3 为: 4 5 #define TIMEZONE_OFFSET(foo) foo- tm_gm
[单片机]
在嵌入<font color='red'>式</font>Linux系统(OK6410)中移植Boa <font color='red'>服务器</font>
液流电池大规模应用充满期待!第二届美的远见者大会,三院士公话AI与储能,探讨未来产业发展方向
10月16日,第二届美的远见者大会在佛山顺德举行。中国科学院院士、华中科技大学教授丁汉,中国科学院院士、南方科技大学教授赵天寿,上海交通大学研究生院院长邓涛教授,中山大学教授、鹏城实验室多智能体与具身智能研究所所长林倞等重量级行业专家,与美的集团副总 ...
[新能源]
小广播
最新工业控制文章
换一换 更多 相关热搜器件

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved