高性能 AI 芯片,如何确保“高性能”?
用高端的学术语言说是研究、开发用于模拟、延伸人类智能的理论、方法、技术及应用系统的一门科学技术;也是一门基于计算机科学、生物学、心理学、神经科学、数学和哲学等的复杂科学。用江湖白话来说就是让计算机像人一样拥有智能的能力。
这两年,人工智能成为最火爆的热点
出门不能聊几句人工智能,那你一定是out的
今年,应届毕业生高达50万的咋舌年薪
就出自 AI 行业
就这样人家企业还愁招不到合适的人呢...
怎么样?
羡慕。。嫉妒。。么?
小编也想拿高薪,于是掐指一算
不不不,其实是问了度娘和谷哥
发现人工智能一路走来,也并不是一帆风顺啊
要真想拿高薪,那还得好好练级!
20世纪50年代 先驱们就已经提出了 人工智能的概念 |
1956年 创建了世界上第一座人工智能实验室 MIT AI LAB |
之后的十年,人工智能受到了可能比今天还火热的追捧,学者们纷纷认为:二十年内,机器将能完成人能做到的一切!
结果可想而知,人工智能这不到现在还没代替人类智能嘛!当时的计算性能不足,数据量又严重缺失,导致机器根本没有能力实现高度智能化。
20世纪90年代 IBM的计算机系统“深蓝”战胜了国际象棋世界冠军卡斯帕罗夫,才标志着人工智能发展的又一个里程碑 |
2016年 谷歌的Alphago战胜了韩国棋手李世石,使得人工智能再度掀起狂潮 |
而作为人工智能底层核心的芯片经过多年的发展,也渐成规模:GPU、FPGA、ASIC(尤其是谷歌贡献了 TPU 之后涌现出无数的 xPU)以及类脑芯片等等,不一而足。基于这些硬件设施的发展以及互联网和移动互联网带来的海量数据,人工智能再度复兴。
现阶段,芯片研发和制造如火如荼,层出不穷的企业投入到 AI 大潮中,各种新的应用也开始涌现,大家真正看到了 AI 落地的可能。
风口浪尖,要持久地做一只风口的猪,真要拿让人羡慕的高薪,还需要真正脚踏实地,需要面对中间千山万水的辛苦和挑战。
敲黑板,划重点
今天我们请来李凯大师
为大家系统讲解高性能 AI 芯片
Part.1
高性能AI芯片的特点
云计算(Cloud Computing)已经成为现代互联网时代的基础设施,由此催生的大数据(Big Data)及人工智能(AI)应用成为资本追逐的热点,并上升到国家战略层面。
AI 芯片是 AI 技术实现的核心技术:
◎ 从应用场景上,AI 芯片主要分为云端(Cloud)与终端(Device)芯片两类;
◎ 从功能上,也主要分为训练(Training)和判决(Inference)两类。
其中,针对云端训练的芯片需要用到海量数据对其深度神经网络模型进行训练,对性能的要求最为苛刻。云端的训练芯片由于性能要求高,实现难度大,目前主要分为以 NVIDIA 为代表的 GPU 阵营和以 Google 为代表的 ASIC 阵营。其中 ASIC 的芯片的发展呈现逐渐上升的趋势,也是最有可能实现芯片技术突破的领域。
下图是以 IBM 的 Power 系列 CPU 和 NVIDIA 的 GPU 为例构建的一个针对 AI 计算的异构服务器。可以看到,对于针对云端训练的 AI 芯片来说,除了为了适应 AI 算法的要求而芯片自身架构的变化以外,由于需要随时进行海量数据的存取和交换,因此对于内存总线和外设接口的吞吐率要求非常高。
* 图片来源:IBM
Part.2
高性能AI芯片的测试需求
对于高性能AI芯片来说,其典型的测试需求主要分为以下几类:
高性能互联测试
用于多块 AI 芯片间高速、低延时互联,以集群的方式提升计算能力,主要以 NVLink、CCIX、100G/400G 以太网为主。同时,专用的 AI 芯片如 GPU、ASIC一般难以单独组成AI计算平台,很多时候还需要 CPU 的配合进行任务调度,与CPU的互联以PCIe3.0/4.0 为主,未来会用 PCIe5.0。下表展示了主流异构计算总线的发展趋势。
高性能存储测试
用于海量数据高速存取,目前以 DDR4/GDDR5 内存为主,未来会采用 DDR5/GDDR6/HBM 等内存方式。下图展示了高性能内存技术的发展。
大规模半导体先进工艺生产测试
AI 特别是机器学习的发展需要强有力的,超过每秒百亿次()运算能力的计算系统。高性能 AI 芯片伴随的是高功耗。目前典型高性能 AI 芯片或 GPU 的功耗已经达到了 300W 左右,因此液冷方案及更先进的制程工艺也会被逐渐采用。当前构建这些系统的基础是 CMOS 技术的芯片,而 CMOS 工艺能够不断提高系统性能主要得益于集成尺寸的缩小。
以高速 Serdes 来说,目前业界已经可以演示基于28nm的单路100Gbps芯片,但未来如果要往AI芯片里面集成,则可能会采用16nm甚至7nm的工艺来降低功耗。2019年,10纳米工艺的芯片已经大规模量产,7纳米开始量产,5纳米节点的技术定义已经完成。下图是高速 Serdes 与半导体制程工艺的发展。
针对以上测试需求,Keysight 公司提供了
针对高性能 AI 芯片的几大测试平台
主要包括
▼
高速互联通道分析平台
高速信号质量验证平台
高速接口容限测试平台
高速存储总线性能分析平台
高速互联仿真设计平台
大规模并行半导体参数测试平台
下面我们会在今天的副条中
分别介绍各个平台
不要错过哦
我们致力于帮助企业、服务提供商和政府客户加速创新,创造一个安全互联的世界。自 1939 年惠普公司成立,到 2014 年 11 月 1 日是德科技作为一家新电子测试测量公司独立运营,我们继续秉承不变的企业家精神和激情开启新航程,鼓舞全球创新者,帮助他们实现超乎想象的目标。我们的解决方案旨在帮助客户在 5G、汽车、物联网、网络安全等领域不断创新。