Icbank半导体行业观察

文章数:19058 被阅读:75115493

账号入驻

AI芯片需要怎样的内存?

最新更新时间:2021-09-03 16:41
    阅读数:

来源:内容来自「DIGITIMES」,谢谢。


人工智能(AI)、车用芯片的复杂程度更胜以往,边缘处理比重增加,存储的选择、设计、使用模式及配置难度也越来越高。

 

据Semiconductor Engineering报导,为了处理汽车和AI应用产生的大量资料,芯片架构越趋复杂,在资料于芯片、元件和系统之间移动以及处理优先处理顺序不明确的情况下,设计团队只能在合并和共享存储之间取得平衡以降低成本,或增加更多不同类型的存储来提升效能、降低功耗。

 

因此出现各种不同的方法,包括将小型存储分散在芯片或封装周围的邻近存储运算(near-memory computing),以及将资料移动最小化的存储内运算(in-memory computing)。这些方法的目的都是透过减少负载和储存量来解决存储瓶颈,同时节省能源。

 

内建SRAM和DRAM存储仍是当前市场主流。DRAM密度高、使用电容储存结构相对简单,又具有低延迟、高效能和接近无限次存取的耐用度,功耗也比较低。SRAM速度非常快,但较为昂贵且密度有限。这些不同的需求会影响存储的类型、数量以及内建或外接存储的选择。

 

功耗也是存储的关键问题,不同存储类型和配置也会影响功耗。例如在7奈米制程的存储上移动资料因导线的RC延迟,需要更高的功率,并可能产生热能,破坏讯号的完整性。

 

存储对AI很重要,AI又是所有新技术的要角。但不只有AI芯片,还有芯片内部的AI应用,都会影响存储的使用方式。如要实现超快的速度和最低功耗,最好的办法就是把所有元件放在同一个芯片上,但有时会受到空间的限制。

 

这也说明了,为什么资料中心和训练应用AI芯片的体积比许多部署在终端设备执行推论应用的其他类型芯片更大。另一种方法则是将部分存储移到芯片外,并透过设计提高传输量及缩短与存储的距离,或是限制外接存储的资料流。

 

外接存储的竞赛,基本上以DRAM-GDDR和HBM为主。从工程和制造角度来看,GDDR比较像DDR和LPDDR等其他类型的DRAM,可以放在一个标准的印刷电路板上并使用类似的制程。

 

HBM是比较新的技术,牵涉到堆叠和矽中介层,每个HBM堆叠都有上千个连接,因此需要高密度的互连,这远远超过PCB的处理能力。HBM追求最高效能和最佳的电源效率,但成本更高,需要更多的工程时间和技术。GDDR的互连没这么多,但会影响讯号的完整性。

 

明导国际(Mentor)IP部门总监Farzad Zarrinfar表示,功率、效能和面积(PPA)都很重要,但主要还是和应用有关。以携带型的应用为例,功率非常重要,而功率也分为动态和静态两部分,如果需要大量运算,那么动态功率就非常重要;如果是穿戴式设计,则更重视静态/漏电功率。电动车在意电池的续航力,因此功耗也是关键因素。

 

尽管有大量革命性的技术和创新架构,存储仍是所有设计的核心。如何决定现有存储的优先顺序、共享、位置以及用途,获得最佳系统效能是件知易行难的事。


*文章内容系作者个人观点,不代表半导体行业观察对观点赞同或支持。


今天是《半导体行业观察》为您分享的第1908期内容,欢迎关注。

推荐阅读


半导体行业观察

半导体第一垂直媒体

实时 专业 原创 深度


识别二维码,回复下方关键词,阅读更多

科创板|OLED|开源|射频|5G|氮化镓|展会|VCSEL

回复 投稿,看《如何成为“半导体行业观察”的一员 》

回复 搜索,还能轻松找到其他你感兴趣的文章!


推荐帖子

有关bootloader制作的问题
我在做booloader加入sb.xcl文件之后出现了FatalError[e72]:SegmentIEEE_ADDRESS_SPACEmustbedefinedinasegmentdefinitionoption(-Z,-bor-P) 错误请问这个是什么原因呢? [本帖最后由wateras1于2013-2-2515:10编辑]有关bootloader制作的问题
wateras1 RF/无线
pic16f1823 c程序编译问题请教
本帖最后由dingzy_2002于2016-6-1001:14编辑 初次使用PIC类单片机,pic16f1823c程序,用MPLAPIDE8.92和HI-TECHPICC编译时报错如下,完全不知道怎么回事,报错也看不懂,请格纹大神帮忙指点 BuildE:\PIC\PICfordevice16F1823 UsingdriverD:\ProgramFiles(x86)\HI-TECHSoftware\PICC\9.80\bin\picc.exe Make:
一线光辉 Microchip MCU
一文吃透电源中的滤波电路
在电源中整流电路输出的脉动直流电含有较大的交流成分,一般不能直接给电子电路供电,仅能对少量要求不高的设备使用。对于平稳供电的设备要对输出电压进行滤波,消除电压中的交流成分。我们把脉动直流电变成平滑直流电的电路称作滤波电路,由电感、电容、电阻组成。下面介绍下各种常用的滤波电路。 滤波电路主要分为电容滤波、π型RC滤波、π型LC滤波和滤波器电路,利用电容的隔直通交或电感的隔交通直的特性来滤除电压中的交流。最简单的是电容滤波,只需在负载俩端并联电容,具体如下图所示: 当变压器副边电压U2由
tgd343310381 电源技术
用PB 定制 EVC上运行出现黑屏
用PB定制出来SDK在EVC上运行出现黑屏 我想自己定制个SDK,但是在EVC下运行出来的模拟器出现黑屏,不知道是什么原因用PB定制EVC上运行出现黑屏
ljh_gyy 嵌入式系统
MCU为电动自行车提供有效的驱动(图)
从CD/DVD播放器和电脑制冷风扇到工业机械以及包含混合动力汽车、著名的Segway电动滑板车和许多其他电动滑板车、电力驱动的自行车(或称为“电动自行车”)在内的电动交通工具,无刷直流电动机正在各种领域中取代整流式电动机。由于它们越来越普及,特别是在亚洲,这样的“个人运输设备”向制造商描绘了巨大的潜在市场,并且可能有助于降低全球的能源消耗。 即使北美市场也显示了采用电动自行车的可能性。自2000年8月以来,由加利福尼亚州圣克鲁斯的县区域性运输委员会资助的一项活动对居民购买电动自行车予以部分退款
呱呱 单片机
常用电源符号含义分享
电源符号,你是否还傻傻分不清楚?常用电源符号附上!在电路设计中,总会出现各式各样的电源符号,经常会把人弄懵逼,今天小编整理了二十多个比较常用的电源符号分享给大家,快收藏呀。 1.VBB:B可以认为是三极管的基极B,一般是指电源正极。2.VCC:C可以认为是三极管的集电极Collector或者电路Circuit,一般是指电源正极。3.VDD:D可以认为是MOS管的漏极Drain或者设备Device,一般是指电源正极。4.VEE:E可以认为是三极管的发射极Emitter,一般是指电源负
成都亿佰特 开关电源学习小组

最新有关Icbank半导体行业观察的文章

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2021 EEWORLD.com.cn, Inc. All rights reserved