为了满足高性能或满足人工智能(AI)需求,新型内存不断涌现,虽然理论上表明,更大的内存有助于AI性能的释放,但那些传统内存难道就无法满足高性能应用了吗?起码在某些边缘AI的设备来说,并非如此。
华邦电子公司的1Gb LPDDR3 DRAM就是一个很好的应用案例,人工智能初创公司Kneron已经将其应用在最新的SoC系统KL720上。它是该公司提供的几种用于各种边缘设备的SOC之一,包括电池驱动的应用程序,如智能锁和无人机,它利用了华邦的512Mb LPDDR2。通过在KL720 SoC中使用华邦的LPDDR3, Kneron希望为AI和机器学习技术支持一套新的低功耗/高性能应用程序。
华邦 DRAM市场经理Jacky Tseng介绍,华邦的LPDDR3 DRAM最大带宽为8.5GB/s,可使用1.2V/1.8V双电源,并提供深度断电模式和时钟停止功能等省电功能。这些规格使得Kneron的KL720等客户设备能够实时处理4K、全高清或3D传感器视频图像,从而支持人工智能应用,如安全摄像头中的人脸识别或公共亭中的手势控制,以及执行自然语言处理。据悉,华邦的1Gb LPDDR3 DRAM将以良品裸晶圆(KGD)供应,并与KL720中的全新Kneron神经网络处理器(NPU)封装在一起。
先了解一下KL720 SOC的实力。在MobileNetV2图像识别基准测试中,KL 720的能效是英特尔最新款Movidius芯片的两倍,是谷歌的Coral Edge TPU的四倍。可谓真正达到: 强算力、低功耗、超高性价比以及安全性。KL720的另一大亮点在于:支持完整的自然语言处理。与上一代芯片相比,这款升级版芯片可以处理分辨率为1080P的4K静止图像和视频。它还为公司带来了许多新的音频识别突破,Kneron表示,这将使搭载其芯片的设备能够不受简单「唤醒词」的约束,与设备进行即时的对话。总体而言,Kneron承诺其SoC的性能达到1.5 TOPS,而SoC使用Arm Cortex M4作为其主要控制单元。完整封装的平均功耗约为1.2W。
如此高性能的SOC,就算没有配备最新型的内存也能达到这样的水准,着实让人惊讶。
Tseng表示,随着大型DRAM厂商推出LPDDR4和LPPDR5,但很多客户并不需要那么高级的DRAM,他们也不想支付这么高的价格。像Kneron这样的客户正在寻找在相对低密度下具有一定性能水平的产品。“即使是LPDDR3也能完美支持并实施一些人工智能培训模式。人工智能训练模型可以优化以缩小大小,所以1Gb就足够了,但它仍然需要高带宽。”
Tseng介绍,除了Kneron KL720 SoC应用的需求之外,华邦的LPDDR3 DRAM的密度和带宽在汽车应用方面也有潜在的用途,比如使用必须实时处理视频图像摄像头的ADAS。如今的物联网端点有很多是需要进行基本的人工智能推断,这与Kneron SOC一样,需要低密度和高带宽。
据Tseng介绍,在边缘使用FPGA和ASIC进行推断将需要更多的内存,比如4Gb LPDDR4,而在由CPU和GPU驱动的云中心,更集中的人工智能训练和推断中需要的是更高的密度和更高的性能,甚至高带宽内存(HBM)和GDDR6的支持。实际上,边缘计算有许多需要不同功耗/性能比率的“层”,包括那些非常适合华邦的LPDDR3 DRAM的层。
Objective analyst的首席分析师Jim Handy表示,华邦有着广泛的产品系列,该公司的许多设备都是在需要低芯片数量的应用中销售。“他们在串行或闪存方面都很庞大,在较小的应用程序中销售大量SRAM,而DRAM在这些应用程序中就显得多余了。”
在人工智能发展到单一架构之前,人们曾预计它会有多种多样的选择,比如单一的微控制器芯片,或者拥有5个芯片的小型个人电脑。Handy:“人工智能的种类仍然多得令人难以置信,很难说这真的是一种趋势。”新型内存的出现也只能说是一种方向,或许在边缘端能够大有用处。
关键字:DRAM AI
引用地址:
贵的不一定合适,低功耗DRAM更能满足边缘AI需求
推荐阅读最新更新时间:2024-10-11 22:22
医疗人工智能新突破,5分钟语音诊断遗传疾病
给你一段5分钟的录音,从这段录音里你最多能够获得多少信息?根据威斯康星大学麦迪逊威丝曼中心和威斯康星发现研究院的最新研究表明,仅靠5分钟的谈话就足以判断某个人是否易患遗传疾病以及相关的并发症。下面就随医疗电子小编一起来了解一下相关内容吧。 早这项刚刚发表于《Scientific Reports》的研究中,研究人员利用机器学习能力分析了数百种语音记录,并能够准确地识别个体的突变前期的脆弱的X染色体,具有这种特征的染色体会增加神经退行性疾病、不孕不育等病症的风险,此外,携带该染色体的人群的后代容易发生X染色体易损综合征。 医疗人工智能新突破,5分钟语音诊断遗传疾病 X染色体易损综合症的主要特征是智力和身体残疾,目前全世界
[医疗电子]
NXP与工信部人才交流中心合作 IoT与AI应用开发丛书今发布
恩智浦半导体(纳斯达克代码:NXPI,以下简称“恩智浦”)与工业和信息化部人才交流中心共同编写的《物联网与人工智能应用开发丛书》今日在北京正式发布。工业和信息化部电子信息司司长刁石京、国家集成电路产业投资基金股份有限公司总裁丁文武、电子工业出版社总编辑、工业和信息化部华信研究院院长刘九如、工业和信息化部人才交流中心副主任李宁、恩智浦大中华区总裁郑力以及人事部人力资源与社会保障部专业技术人员管理司、国家外专局国际人才交流基金会等领导共同出席了丛书发布仪式。 人工智能与物联网、大数据的完美结合,正在掀起新一轮科技与产业变革浪潮。作为工信部人才交流中心和恩智浦人才培养战略合作框架下的又一个重要项目,《物联网与人工智能应用开发丛书》定
[网络通信]
Google投入自家AI芯片 期望发挥带头角色
日前Google针对资料中心市场推出自家晶片Tensor Processing Unit (TPU),专门应付处理大量数据需求。评论指出,Google之所以推出该技术,主要出发点在于追求效能、降低耗能与带领其他业者一同加入打造TPU的行列。 据Network World报导,过去由IBM大型主机与升阳(Sun)伺服器处理的资料中心工作量自从受到诸如Google等云端业者带动后,更让英特尔(Intel)的PC硬体将其普及化,不过,日前Google公布自家TPU效能与架构详细研究报告后,上述情况恐将从此改变。 首先,TPU并非类似英特尔中央处理器(CPU)或NVIDIA绘图处理器(GPU)的晶片,而是属于机器学习的ASIC
[嵌入式]
瑞银看好半导体四雄主宰AI市场
电子网消息,人工智能掀起新一波科技浪潮,令市场为之疯狂,瑞银预言Nvidia、AMD、英特尔与高通等四家芯片制造商,未来将主宰整个AI产业, 当中又以Nvidia最被看好。 据Businessinsider报道,瑞银分析师Stephen Chin指出,AI发展目前百花争鸣,才在起始阶段,未来还有很大成长空间,将推升半导体产业进入新的篇章。 瑞银模型预估,机器学习与人工智能等相关半导体产值(不含内存),2021年将从今年的82亿美元成长至350亿美元,换算复合成长率达41%。 瑞银分析师最看好Nvidia,原因是Nvidia技术领先竞争对手至少一年,且与英特尔是目前有唯二具备全方位AI解决方案的芯片厂,AMD、高通、三星甚至谷歌技
[半导体设计/制造]
酷芯微电子发布新一代超高清AI相机芯片AR9341,12月量产
在世界人工智能大会上,上海酷芯微电子有限公司(以下简称:酷芯微电子)隆重发布新一代AI相机芯片AR9341。 酷芯微电子联合创始人兼CTO沈泊 AR9341是酷芯微电子推出的第二代超高清智能相机芯片,功能有更多升级,主要包括:9M@60fps分辨率的ISP图像处理器,最多8路视频输入;4K@80fps的视频编解码器;4TOPS的深度学习处理器(NPU);1GHz的高性能视觉DSP处理器;4核64位CPU @1GHz;32-bit DDR3/DDR4/LPDDR3 接口,最大带宽可达12.8GB/S;典型功耗是 2W(4K AI IPC), 1W(2K AI IPC)。 一直以来,酷芯微电子致力于帮助客户解决行业痛点问
[嵌入式]
人类多余?AI想超越人类可没那么容易
今年五月份举行的乌镇围棋峰会上,AlphaGo击败柯洁之后可以说在围棋界里已是“独孤求败”的境界了,几乎无人是其对手。人们在赞赏的同时,也想看到是否会出现一个对手,能够将ALphaGo拉下马。 事实就是这样,越想着什么越会发生什么。ALphaGo终于遇到了自己的对手,这个对手甚至以摧枯拉朽之势击败了ALphaGo。 就在上周,据外媒报道,英国DeepMind团队在《自然》杂志上发表了相关论文,介绍了新一代的围棋AI:ALphaGo Zero。使用了强化学习技术的ALphaGo Zero可以通过自我对弈进行训练,棋力大幅度增长,轻轻松松击败了曾经不可一世的ALphaGo。人们再次被震惊了,就连柯洁都发出了“人类多余
[机器人]
富士康无监督学习AI算法上线! 降低超过50%产线检测人力
据台媒经济日报报道,鸿海集团今日宣布推出无监督学习(Unsupervised Learning)人工智能(AI)算法FOXCONN NxVAE,运用正面表列的模型训练方式,只以产品容易取得的正样本进行光学检测演算,解决产线中瑕疵样本取得的问题,适用良率高的成熟产品线,能够增加AI模型的整体容错能力。 鸿海指出,相关技术已导入大陆园区内部分产品外观检测生产线,能够降低50%以上产线检测人力,可全检产品外观常见的13类瑕疵,并达到零漏检的客户要求。这代表着,鸿海向智能工厂目标迈进了一大步。 鸿海在大陆的子公司富士康总部位于郑州航空港区,主要生产计算机、通讯、手机、消费性电子等零组件、机构件及系统软件等,是苹果iPhone的主要组装厂。
[手机便携]
汽车产业搞AI,要“支棱”起来
汽车产业变化之快,称得上“猝不及防”。 在近期举办的全球智能汽车产业大会(2024GIV)上,中国电动汽车百人会副理事长兼秘书长张永伟就表示:“汽车变化周期越来越短,过去的变化还没有完成,新的变革又要开始,这种叠加的发展成了汽车产业发展的新常态。” 图片来源: 中国电动汽车百人会(下同) 的确,正如他所说,智能化的浪潮还没有等电动化完成就已经开始,而在行业刚刚参与智能化时,人工智能,特别是以大算力、大数据、大模型为主要代表的人工智能,又开始与汽车融合,传统的智能化迎来了以人工智能为驱动的新的汽车智能化。 AI时代,战略支点快速迁移 在新能源汽车赛场上,电动化被称为“上半场”,智能化被称为“下半场”。比亚迪集
[汽车电子]