受物联网、个人设备、数据中心的强劲带动,未来五年,人工智能为半导体带来的收益将增长13倍以上,年复合增长率超过50%,成为集成电路厂商不可错过的蓝海盛宴。
尤其在以下这几个领域,半导体供应商可以积极寻求为人工智能训练开发新器件并由此获得新商机。
工作负载加速器。目前,基于GPU的系统正在许多训练系统中使用。然而,随着开发人员获得神经网络算法的经验,对替代计算架构的需求可能随着针对特定神经网络模型的器件需求而演变。许多半导体供应商正在开发专用的AI加速器,例如,Intel Crest系列产品和Graphcore的智能处理单元(IPU)。谷歌还开发了自己的基于专用集成电路(ASIC)的解决方案,一款已进入第二代的张量处理单元(TPU)。现场可编程门阵列(FPGA)也可用于满足神经网络训练的一些需求,但是,许多当前的算法都使用32位浮点运算,这可能会限制FPGA可以支持的并行度。
2018年1月
内存。在数据带宽和内存密度方面,提供高吞吐量并行处理会对所使用的内存子系统带来挑战。今天,许多AI设备使用高带宽存储器(HBM)技术,该技术使用安装在与主处理芯片相同的基板上的堆叠DRAM管芯。目前的HBM2规范可实现每个芯片堆栈高达256 GB/秒的传输速率和每个堆栈4 GB;对于具有四个HBM2堆栈的处理器件,这提供了1 TB/秒的理论最大数据带宽和16 GB的封装内存。除了这种快速本地连接的存储器之外,AI系统通常还需要在主系统存储器中容纳大量数据。
存储器内部处理。不同于处理内存附近的数据,“在存储器内部处理”,将计算嵌入到内存阵列中,使处理器和内存耦合更紧密。存储器内部处理可以提供额外的优势,包括更精细的并行性和更高效的性能和能效。目前,计算机行业直接插入式替换这种存储器内部处理并不普及。然而,新兴的存储器技术,包括自旋转移扭矩RAM(SST RAM)、电阻RAM(RRAM)、相变存储器(也称为PCRAM)和Intel/Micron的3D XPoint存储器,为半导体供应商提供了未来AI应用实现存储器内部处理的机会。
互连。器件和系统之间的互连性能将极大限制AI培训系统的扩展。今天,许多加速器器件通过Peripheral Component Interconnect Express(PCIe)3.0连接到主系统的微处理单元(MPU)和存储器阵列。许多行业联盟,如CCIX联盟、OpenCAPI联盟和Gen-Z联盟,正致力于定义可用于互连异构计算系统的缓存一致性互连标准。还有许多专有的系统内互连,例如,英特尔的UPI、AMD的Infinity Fabric和Nvidia的NVLink。所有这些互连为半导体供应商提供了使其AI加速器器件能够与主系统处理器及其存储器子系统连接的机制,虽然可能有必要协商访问互联的规范。
封装选项。许多专为AI训练而设计的器件将采用大型高性能芯片,甚至可能需要多个芯片才能提供最高水平的性能。这种情况为封装供应商提供了为支持这些产品而开发和提供新技术的机会。当前有一些异构封装选项的例子,包括英特尔开发的2D嵌入式多层互连桥接(EMIB)封装技术,台积电在多芯片和3D IC上采用的衬底晶圆芯片(CoWoS)技术。由许多封装和测试公司及代工厂提供的扇出晶圆级封装(FOWLP)或板级封装,也将允许以更薄的外形和更好的散热来实现芯片的低成本3D集成。
想了解更多人工智能给半导体带来的商机吗?想与众多一流企业、研究院所及投融资机构一起规划人工智能的美好未来吗?11月8号,相约重庆,2018中国集成电路产业促进大会——人工智能专题研讨会,让我们一起来一次头脑风暴!
关键字:半导体 人工智能 台积电
引用地址:
飞速发展的人工智能产业,短短五年竟增长13倍?
推荐阅读最新更新时间:2024-05-03 03:19
微软推出新的AI芯片 功能很强大呦
日前,在夏威夷举办的CVPR大会上,微软对外公布,他们正在为HoloLens开发新的AI芯片,使设备可直接识别用户所看的事物和听见的声音,将数据传回云端时也不会产生更多的延时。下面就随嵌入式小编一起来了解一下相关内容吧。 据了解,微软HolographicProcessingUnit(HPU,全息处理器)二代正在研发中,将用于下一代HoloLens,但并未给出明确时间。 上一次微软宣布Hololens全息处理器还是2016年8月。一代HPU芯片采用台积电TSMC代工定制打造的28nm数字信号处理器(DSP),具有24颗TensilicaDSP核心,每秒处理1万亿指令,8MBSRAM,1GBLPDDR3内存。HPU芯片还采用12x1
[嵌入式]
从半导体并购风潮管窥未来产业发展样貌
在终端应用市场趋于成熟下,半导体市场的成长性恐将逐年减低。根据资策会MIC估计,2015年全球半导体市场成长幅度将低于3%,远低于2014年的10%。往后三年半导体市场之年成长率亦难有起色,甚至可能开始出现负成长。 根据资策会MIC估计,2015年全球半导体市场成长幅度将低于3%,远低于2014年的10%。 在此趋势下,全球各大半导体厂莫不积极寻求新应用与新市场。同时,各大厂也可开始启动并购策略,一方面藉此扩大市占,追求规模经济,另一方面也积极寻求具互补性质的标的,藉此开发新兴应用。 近年已陆续传出多起大规模的半导体业并购事件,包括Qualcomm并购CSR、Wilocity,寄望强化手机主晶片与周边联网晶片
[半导体设计/制造]
美智库:中国在AI领域有能力超过美国
据台湾“中央社”11月29日报道,美国智库“新美国安全中心”近日发布报告指出,在人工智能( AI )领域,中国已成为有能力凌驾美国的真正竞争者,未来美中 AI 竞赛“可能改变未来经济与军事势力平衡”。下面就随网络通信小编一起来了解一下相关内容吧。 报告撰写者卡尼亚指出:“与美国相较,中国不再处于科技弱势,反倒已成为真正势均力敌(竞争者),能力可能足以在 AI 领域凌驾美国。” 五角大厦顾问团主席、 谷歌 母公司Alphabet执行董事长施密特近来在华盛顿一场会议指出,中国7月宣布对AI未来拟定的国家计划,要求未来几年对美国急起直追,最终成为全球首要AI创新中心。据称,施密特在这场“新美国安全中心”主办的会议中说:“我
[网络通信]
生态圈+技术流,百度地图想做AI新基建数字底座
伴随着新基建号角的吹响,地图再次得到升维进阶的机会。 释放AI新基建数字底座效能 国家层面,今年的政府工作报告提出,把科技自立自强作为国家发展的战略支撑。 在“十四五”规划和2035年远景目标纲要草案中,着力提升发展质量效益,加快发展现代产业体系,全面推进乡村振兴等目标,更是与科技创新息息相关。 2021年,科技强国战略已从统领全局的概念性纲领,变成了与社会经济发展紧密捆绑的重大战略。 政府之外,两会代表也纷纷就实现“科技自立自强”建言献策。有代表指出,“当前我国面临一些‘卡脖子’难题,其深层次原因在于基础不牢”。 在“科技强国”成为国家发展战略支撑的当下,国内企业唯有紧跟国家战略,坚持基础研究和自主创新之
[嵌入式]
美ITC对半导体设备等启动337调查 三星关联公司主张专利权
中国贸易救济信息网消息显示,美国国际贸易委员会(ITC)正式对半导体设备、包含该设备的无线基础设施及其组件启动337调查。 据悉,今年2月4日,韩国Samsung Electronics Co., Ltd., of Gyeonggi-do, Korea、美国Samsung Austin Semiconductor, LLC, of Austin, TX向美国ITC提出337立案调查申请,主张对美出口、在美进口和在美销售的该产品侵犯了其专利权,请求发布有限排除令、禁止令。 瑞典Ericsson AB of Stockholm, Sweden、瑞典Telefonaktiebolaget LM Ericsson of Stockholm
[手机便携]
东芝在四日市启动5号半导体制造厂二期建设
东京--(美国商业资讯)--东芝公司(Toshiba Corporation)(TOKYO:6502)今天为Fab 5二期开工建设举行了奠基仪式。Fab 5是东芝最先进的制造厂(晶圆厂),位于三重县四日市业务部(Yokkaichi Operations)存储器工厂内。 东芝将对Fab 5进行扩充,以保证采用新一代工艺技术打造的NAND闪存及3D存储器的制造空间。该项目将于明年夏季建成,设备投资及生产水平将视市场动向而定。 四日市业务部的三家晶圆厂目前正在批量生产NAND闪存,包括Fab 5一期。Fab 5计划分两期建造,其中项目一期已于2011年7月投入使用。在对产品供需平衡进行一番仔细衡量,发现智能手机、平板电脑和企业服务器
[半导体设计/制造]
Google 公布TPU细节后,AI 界怎么看?
美国当地时间 4 月 5 日, Google 终于打破沉寂,发表官方部落格,详细介绍 TPU 各方面。 相关论文更配以彩色 TPU 模块框图、 TPU 芯片配置图、TPU 印制电路等,可谓图文并茂,称其为「设计教程」也不为过。 不出意料,这之后会涌现一大批仿效者。下面就随网络通信小编一起来了解一下相关内容吧。 论文中还给了 TPU 与其他芯片的效能对比图,称「TPU 处理速度比目前 GPU 和 CPU 要快 15 到 30 倍」,有人赞叹 TPU 的惊人效能,但也有人对此种「比较」表示质疑,因其拿来的比较对象并非市场效能最好的。 这篇论文有哪些亮点? 争议点在哪里? Google 公布 TPU 细节会对
[网络通信]
Teledyne 宣布对其 Sapera Vision Software 进行 AI 增强
Astrocyte 利用拼接图像(2800x1024)定位和识别木板上的小结子(30x10) 加拿大滑铁卢,2022 年 5 月 19 日 – Teledyne 很高兴地宣布其 Sapera Vision Software 2022-05 版现已上市。 Teledyne DALSA 的 Sapera Vision Software 提供经过现场验证的图像采集、 控制、图像处理和人工智能功能 ,以设计、开发和部署高性能机器视觉应用。新的升级包括对其 AI 训练图形工具 Astrocyte 及其图像处理和 AI 库工具 Sapera Processing 的增强。 “我们很高兴为 Astrocyte 和 Sapera P
[传感器]