在过去几年时间里,NVIDIA 深耕 AI 领域,他们的 GPU 不仅成为 HPC 的首选,也成为包括 AI 和深度学习生态系统在内的数据中心的首选。在最新公布的开发者博文中,NVIDIA 宣布正利用 AI 来设计和开发 GPU,其最新的 Hopper GPU 拥有将近 13000 个电路实例,而这些实例完全由 AI 创建。
计算机芯片中的算术电路是使用逻辑门网络(如 NAND、NOR 和 XOR)和电线构成的。理想的电路应具有以下特点:
● 小:较小的区域,以便更多电路可以安装在芯片上。
● 快速:降低延迟以提高芯片的性能。
● 消耗更少的功率:芯片的功耗更低。
NVIDIA 使用这种方法设计了近 13000 个 AI 辅助电路,与同样快速且功能相同的 EDA 工具相比,它们的面积减少了 25%。但是 PrefixRL 被提到是一项计算要求非常高的任务,并且对于每个 GPU 的物理模拟,它需要 256 个 CPU 和超过 32,000 个 GPU 小时。为了消除这个瓶颈,NVIDIA 开发了 Raptor,这是一个内部分布式强化学习平台,它特别利用 NVIDIA 硬件进行这种工业强化学习。
Raptor 具有多项可提高可扩展性和训练速度的功能,例如作业调度、自定义网络和 GPU 感知数据结构。在 PrefixRL 的上下文中,Raptor 使得跨 CPU、GPU 和 Spot 实例的混合分配工作成为可能。
这个强化学习应用程序中的网络是多种多样的,并且受益于以下几点。
● Raptor 在 NCCL 之间切换以进行点对点传输以将模型参数直接从学习器 GPU 传输到推理 GPU 的能力。
● Redis 用于异步和较小的消息,例如奖励或统计信息。
● 一种 JIT 编译的 RPC,用于处理大容量和低延迟的请求,例如上传体验数据。
NVIDIA 得出结论,将 AI 应用于现实世界的电路设计问题可以在未来带来更好的 GPU 设计。
在 NVIDIA Develope 上发布的新博客中,该公司重申了其优势以及它自己如何利用其 AI 功能来设计其迄今为止最强大的 GPU--Hopper H100。 NVIDIA GPU 主要是使用最先进的 EDA(电子设计自动化)工具设计的,但在利用 PrefixRL 方法的 AI 的帮助下,使用深度强化学习优化并行前缀电路,公司可以设计更小、更快、更节能的芯片,同时提供更好的性能。
关键字:NVIDIA AI GPU
引用地址:
NVIDIA利用AI来设计和开发GPU 最新Hopper已拥有1.3万个电路实例
推荐阅读最新更新时间:2024-11-17 22:22
人工智能将比人类聪明无数倍人需与之结合
根据CNBC 分析报导,一位未来学家周二告诉CNBC 说, 人工智能 将比人类聪明无数倍,人可能需要与电脑结合,才能生存。下面就随网络通信小编一起来了解一下相关内容吧。 在杜拜世界政府高峰会上,未来学家皮尔森(Ian Pearson) 发表的谈话,呼应了特斯拉执行长马斯克的观点。 「 人工智能 可以走得较人类更远,目前已较人类聪明无数倍,」皮尔森说。「所以我们必须确定,我们必须设法跟上。」 「我们自保的方式,就是将 人工智能 与我们的头脑结合,让我们拥有与电脑同样的IQ。就像马斯克... 努力发展超人电脑,直到能与人类头脑直接连线。」 在2017 年世界政府高峰会上,曾对人工智能未来能力提出警告的马斯克说,随
[网络通信]
SSD与AI将会碰撞出高性能火花
AI时代的燃料—数据,正在呈井喷式爆发。 据统计,人类每天都会产生2.5 quintillion bytes(10的18次方)的数据,全世界数据总量的90%都是在过去两年内产生的。IDC预测,2025年全球产生的数据量将达到163ZB。可以说,数据存储和处理的效率决定了企业的AI竞争力和未来。虽然有研究者利用和内存作用相当类似的忆阻器来打造类神经网络处理机制,用以处理深度学习方面的工作,但相关技术毕竟还不成熟,多数还是处于实验室发展阶段。 创业公司InnoGrit推出了一组固态硬盘(ssd)控制器Tacoma,其中一个用于数据中心,该中心嵌入了一个神经网络加速器。InnoGrit表示已经拥有相对竞争对手的实力和性能优势。
[嵌入式]
AI芯片赛道再入局竞争者,鲲云科技获Pre-A轮投资
据36Kr消息,人工智能芯片方案商鲲云科技获得Pre-A轮投资,星瀚资本领投,深圳云创、珠海拓金跟投。这也是人工智能赛道,近期继寒武纪、地平线、深鉴、Kneron之后的又一笔融资。 鲲云科技成立于2016年初,CEO 牛昕宇是帝国理工博士、前帝国理工博士后研究员,有7项发明专利、1项国际专利,曾获欧盟科研影响力奖、帝国理工杰出成就奖、杰出科研奖,有欧盟HiPEAC最佳论文2项。CSO陆永青院士,是英国皇家工程院院士、IEEE、BCS会士、帝国理工教授、斯坦福客座教授、中英人工智能联合实验室主任、ACM-TRETS创刊主编,有450篇学术期刊及会议论文, 国际专利2项, 学术著作3册,同时还是Celoxica、BlueBee联合
[嵌入式]
电子制造商纷纷采用NVIDIA AI和 Omniverse,使机器人工厂为工业数字化注入新动能
NVIDIA Omniverse、Isaac和Metropolis助力Delta Electronics、Foxconn、和硕、Wistron以数字化方式构建、模拟和运营工厂数字孪生 COMPUTEX—2024年6月2日 — NVIDIA于今日宣布,各大电子制造商正在使用NVIDIA的技术并借助新的参考工作流将其工厂改造成具有更高自主化水平的设施 。该工作流结合了NVIDIA Metropolis 视觉 AI、NVIDIA Omniverse™ 基于物理学的渲染与模拟以及NVIDIA Isaac™ AI 机器人开发与部署。 通过使用该工作流构建数字孪生以实时模拟不同工厂布局,制造商无须进行昂贵的物理改造,就能优化空间
[机器人]
Waymo合作DeepMind 将自动驾驶AI算法开发速度提升1至2倍
据外媒报道,谷歌母公司Alphabet 旗下 自动驾驶 子公司 Waymo 的自动驾驶汽车与引导普通汽车的“大脑”有一些共同之处:其智能都由进化推动发展。目前,Waymo的工程师就正与DeepMind(也是Alphabet旗下子公司,专注于AI)的研究人员合作,寻找一种更加高效的方法,培训和调整Waymo的自动驾驶算法。 (图片来源:Waymo官网) 研究人员们采用了一种称为“基于群体进行训练”(PBT)的技术,此前DeepMind研发了该技术,以提升视频游戏的算法。PBT技术的灵感来自于生物进化,通过让候选代码从算法群中抽取“最合适”的样本(最有效执行给定任务的样本),加速选出特定任务中用到的机器学习算法和参数。 以
[汽车电子]
海信拟投入研发嵌入式AI处理器
eeworld网消息,据台湾电子时报报道,在上海国际物联网(IoT)大会上,海信信芯公司总经理钟声表示,海信正在围绕智能电视、智能家庭、智能交通产业,做相应的产品研发。未来要做出性价比较高、电视交互互动及辅助驾驶网络的相关产品。 钟声指出,智能边缘化趋势明显,所谓的边缘化就是进入生活贴近人的交互应用。比如在家庭、汽车应用领域,低延时带来好的用户体验,通过边缘计算,信息并不上传云端,使用户隐私获得保证,同时也降低云端运算的压力。 他认为,要达到自然的人机交互,能够达到所谓的“心有灵犀”境界,就是“智能”。其中智能语音助理无处不在,掌握了家庭、汽车、穿戴式设备控制与入口。入口,就是所有系统厂家争夺之处,谁掌握了入口,就掌握了市场。而智
[半导体设计/制造]
人工智能走进ICU:预测死亡准确率达93%
医院对于自家的重症监护室(ICU),往往有一个不成文的期望:减少“在病床上去世”事件的发生。这种想法乍一听有点奇怪,但可以理解。 这个期望可能很快就能实现了。基于监测患者生命体征各种设备所提供的实时数据,ICU似乎是人工智能工具的完美使用场景,可以用来判断患者的实时病情以及病情何时可能恶化。 ECRI研究所的Priyanka Shah说:“很多医院都有兴趣开发早期预警系统,来预测脓毒症、心脏骤停和呼吸停止等威胁生命事件的发生。”ECRI研究所是一个为医疗保健行业评估医疗程序、设备和药物的非营利机构。 学术研究人员和 医疗设备 公司现在都试图找出,哪些医疗设备的组合可以提供患者病情恶化的最佳测量指标。Shah说,里解决这个技术挑战
[医疗电子]
高通和谷歌联手开发汽车人工智能
据路透社报道,10月22日,高通(Qualcomm)表示,正与Alphabet旗下的谷歌(Google)携手合作,以打造一款能在高通芯片上流畅运行的Android汽车操作系统(AAOS)软件,让汽车制造商能够利用两家公司的技术来开发自己的人工智能(AI)语音助手。 图片来源:高通 长期以来,高通芯片一直为搭载谷歌Android操作系统的手机提供动力。目前,高通已将业务拓展至汽车领域,其芯片足以为通用汽车等汽车制造商所使用的汽车仪表盘以及自动驾驶系统提供驱动。 虽然许多消费者都熟悉谷歌Android Auto和苹果CarPlay的功能,即当手机连接到车辆时,它们会在车辆上显示手机上的应用程序,但谷歌Android汽车O
[汽车电子]