性能是传统HBM的两倍,三星公布HBM-PIM、LPDDR-PIM研究成果

发布者:备战最新更新时间:2023-08-31 来源: chinaflashmarket关键字:HBM  三星电子 手机看文章 扫描二维码
随时随地手机看文章

据韩媒报道,三星电子在今年的Hot Chips 2023上公布了高带宽存储器(HBM)-内存处理(PIM)和低功耗双倍数据速率(LPDDR)-PIM研究成果。这两款存储器是未来可用于人工智能(AI)行业的下一代存储器。

三星电子展示了一项研究成果,将HBM-PIM应用于生成式AI,与现有HBM相比,加速器性能和功效提高了一倍以上。本研究中使用的GPU是AMD的MI-100。 

为了验证MoE模型,还构建了 HBM-PIM 集群。集群中使用了 96 台配备 HBM-PIM 的 MI-100。在MoE模型中,HBM-PIM还表明加速器性能比HBM高两倍,功率效率比HBM高三倍。 

HBM-PIM是将PIM与HBM结合在一起的半导体。它是一个概念,通过处理一些以前由CPU在内存中处理的操作来减少数据移动量。近年来,随着内存瓶颈成为AI半导体领域的一大挑战,HBM-PIM作为下一代内存半导体备受瞩目。

除了HBM-PIM,三星电子还展示了LPDDR-PIM。LPDDR-PIM 是一种将 PIM 与移动 DRAM 相结合的形式,可直接在边缘设备内处理计算。由于它是针对边缘设备开发的产品,因此带宽(102.4GB/s)也较低。三星电子强调,与DRAM相比,功耗可降低72%。 

业内人士表示,与AI加速器性能的提升相比,存储器的发展速度缓慢。在大规模语言模型(LLM)中,数据重用率很高,并且可以减少数据移动(通过 HBM-PIM 中的计算)。

然而,HBM-PIM和LPDDR-PIM的商业化还需要相当长的时间。PIM在通过存储器工艺实现非存储器半导体的特性方面存在技术困难。此外,与现有的HBM相比,还有一个缺点是价格昂贵。


关键字:HBM  三星电子 引用地址:性能是传统HBM的两倍,三星公布HBM-PIM、LPDDR-PIM研究成果

上一篇:美国限制英伟达、AMD向中东国家出口AI芯片
下一篇:7nm高端DUV光刻机仍可出口!ASML:全力给中国客户交付

推荐阅读最新更新时间:2024-11-08 06:23

三星Galaxy S9曝光:屏下指纹+首发骁龙845
上周二,韩媒报道称,三星显示部门的新订单显示,预计用于Galaxy S9和S9+的屏幕依然是5.8寸和6.1寸,也就是和S8一致。下面就随嵌入式小编一起来了解一下相关内容吧。 今天,传言得到NPU消息人士的确认。 不出意外的话,三星S9依然会采用全视曲面屏的正面,但一点革命性的变化是集成屏下指纹技术,从而极大程度上弥补今年S8/Note8都是后置指纹的尴尬。 同时,早在4月份就有消息支持,三星和高通就骁龙845的引进签署合作。昨天,高通也自曝骁龙845的确存在,只是工艺似乎来自台积电的7nm。 另外,Note8几乎可以确定后置双摄,理所应当,S9会在拍照方面做类似的升级。毕竟,从S7到S8,不少评测媒体称改进幅度并不明显。
[嵌入式]
三星发布18k金版智能手表和12寸平板笔电
     三星18K白金和玫瑰金版Gear S2 三星12寸超轻薄平板笔电TabPro S   郑峻 发自美国拉斯维加斯   新浪科技讯 北京时间1月6日上午消息,今日在美国拉斯维加斯召开的消费电子展(CES)上,三星发布了18K白金与黄金版智能手表Gear S 2以及一款12寸的2K屏幕平板二合一笔电TabPro S。   在苹果发布红色中国新年版Apple Watch同一天,三星也发布了18克玫瑰金和白金版本的Gear S 2智能手表,分别搭配象牙白和黑色真皮表带。除了奢华的表面设计,这款奢侈版智能手表和普通版没有硬件功能上的不同。三星还提供了诸多色彩和设计的替换表带选择。   此外,三星还宣布旗下智能手表将
[手机便携]
挑战三星:小米之家印度100家门店计划有望提前
据路透社报道,小米有望提前完成在2019年年中之前在印度开设100家“小米之家”的计划。此外,该公司还计划增加更多的首选合伙伙伴商店,即以小米产品为主的多品牌商店。   小米计划扩大其在印度的门店网络,试图在印度智能手机市场占据领先地位,韩国三星已经主导印度智能手机市场五年多了。   小米进入印度市场三年多了,其低价高配手机帮助它在印度市场和三星并驾齐驱。目前,小米估值接近1000亿美元,并计划在今年上市。   小米印度区总经理马努?杰恩(Manu Jain)表示:“如果将2017年和2018年结合起来看,我们战略最大的变化是我们将重点放在线下。”   去年5月,小米在印度开设了第一家“小米之家”(Mi Home),这是一家
[手机便携]
三星占中国份额仅3% 望note8扳回一城
  小米MIX 2发布了,苹果iPhone X马上发布, 三星 Galaxy Note 8也要来到国内了,但是相比于小米和苹果, 三星 在中国市场上可谓步履维艰,份额已经只剩下区区3%,自然 三星 对Note 8寄予了厚望。下面就随手机便携小编一起来了解一下相关内容吧   其实,Note 8在国际市场上表现很出色,在美国和韩国的预订量都创下新纪录,比如在韩国本土一天就超过65万部,而上代Note 7花了13天才预订38万部。   这样的数字无疑让三星信心十足。   三星移动业务主管高东真今天在一次记者会上表示:“自从上个月的发布会后,大量伙伴和客户都告诉我们,(Note 8)的初步印象十分深刻。”   目前,Note 8已经在4
[手机便携]
路透社:三星苹果继续领跑智能手机行业
    北京时间1月19日消息,路透社的一份调查显示,上季度三星和苹果继续走在全球智能手机行业前列,而诺基亚和其他手机生产商的销售业绩预计会持续下滑。 2012年四季度全球手机出货量进一步上升,主要是源于三星手机的良好销售业绩。分析师预计,该季度三星智能手机出货量为6100万部,同比增长71%。 本月初,基于Galaxy系列手机持续走高的销量以及其他移动设备生产商对三星屏幕的稳定需求,三星预计上一季度公司盈利83亿美元。本月25号,三星将会公布最终数据。 尽管不少人认为三星的市场趋于饱和,增长势头可能在下一季度放缓,但由于苹果最新旗舰手机iPhone5的销量明显低于预期,三星仍有望取代苹果成为全球第一大智能手机生产商。 去年四季度,
[手机便携]
韩媒:三星2/3研发人员丢饭碗
    眼看马上就到年关,各企业也到了盘点和总结的时候,但对于三星来说,外界已经传出其产品卖不动、库存积压194亿美元创史,同时计划裁员30%高层。 祸不单行,韩媒Chosunbiz报道,三星研发中心人事遭遇大地震,将有2/3的员工被炒鱿鱼,饭碗不保,原本1万人的单位怕是要骤减到3500人。 遭遇大刀的部门为媒体通讯(DMC)、媒体解决方案(MSC)等的软件工程师,报道称,三星想在硬件方面加码。 同时,Korea Times也补充指出,三星研发中心的软件工程师将从首尔瑞草总部搬迁至首尔南部的Umyeon-dong中心,替换成三星证券等金融子集的职员,似乎佐证了裁员传闻非虚。
[手机便携]
三星宣布11nm新工艺:7nm全面上极紫外光刻
Intel虽然一再强调自己的xxnm工艺才是最精确的,比如同样标称10nm,自己要比三星、台积电的领先整整一代,但是没办法,人家的脚步要快得多。 今天,三星电子又宣布了新的11nm FinFET制造工艺“11LPP”(Low Power Plus),并确认未来7nm工艺将上EUV极紫外光刻。 三星11LPP工艺不是全新的,而是14nm、10nm的融合,一方面采用10nm BEOL(后端工艺),可以大大缩小芯片面积,另一方面则沿用14nm LPP工艺的部分元素。 三星于2016年10月投产10LPE(10nm Low Power Early),并已准备好即将投产10LPP(10nm Low Power Plus),主要为智能手机制
[嵌入式]
三星将增产DDR3内存芯片 满足市场的需求
  三星公司半导体事业部总裁Oh-Hyun Kwon透露,三星公司正在逐步增加其DDR3内存芯片的产能,因此预计最近市场上出现的内存芯片供应紧张的局面很快便会有所缓解。据Kwon表示,最近市场对DDR3内存芯片的需求涨势很旺,甚至超过了三星的预期,为了满足市场的需求,三星准备增大DDR3芯片的产能,另外Kwon还宣称三星目前已经在使用40nm制程技术生产内存芯片产品,而明年40nm制程则将成为三星的主力制程。    另外Kwon还表示三星将主要通过制程技术升级等技术升级手段来达到增加产能的目的,他并称建造新芯片厂并非增长产能的唯一途径。    他同时暗示,由于各国政府都出台了一系列刺激计划,因此最近一段时间的芯片市场需求出现
[半导体设计/制造]
小广播
最新半导体设计/制造文章
换一换 更多 相关热搜器件
随便看看

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 市场动态 半导体生产 材料技术 封装测试 工艺设备 光伏产业 平板显示 EDA与IP 电子制造 视频教程

词云: 1 2 3 4 5 6 7 8 9 10

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved