数据中心大变形：看英伟达怎样颠覆冯·诺伊曼架构

数据正在撬动我们的地球，更改变着人类的各个小世界——制造、工业、商业、医疗、教育……所有的行业都在经历前所未有的智能化重塑。

数据作为重要的资源和生产要素，已经成为世界范围内的共识。而这一切背后的支点——数据中心——计算和存储数据的区域，必将是未来科技企业角逐的圣地。

如今，这个“支点”也必须面临大变革。

因为随着AI、机器学习等应用的深入所带来的数据大爆炸，对算力提出了更高要求。据IDC统计，全球算力的需求每3.5个月就会翻一倍，远远超过了当前算力的增长速度。在此驱动下，全球计算、存储和网络基础设施必须发生根本转变。

“数据中心目前正进行一场变革，即从冯·诺依曼架构的数据中心转向以数据为中心的架构。”英伟达网络事业部亚太区市场开发高级总监宋庆春表示，而其背后的原因很简单，数据大爆炸，原来的冯·诺伊曼架构下，将数据输送至服务器的CPU芯片中进行计算的方式逐渐难以招架。

以数据为中心的新架构

以冯·诺依曼架构为基础的数据中心里，所有的计算会以CPU或GPU为中心，即所用的数据需传送到CPU或GPU上。基于两者强大的算力，这样的架构解决了数据中心计算性能的问题。

这就是x86双雄：英特尔与AMD的角逐之地，作为老牌计算芯片，服务器仍旧是CPU的主场。英特尔也很快意识到在数据爆炸的当下，无论是云端还是边缘服务器，越来越多的厂商都开始通过AI来加速数据处理，而CPU并不是执行此类运算的最佳载体。

因而在第一代至强可扩展处理器开始英特尔便引入AVX-512指令集，随后第二代又引入深度学习加速技术，到了最新的第三代进一步对软硬件整体进行优化。而AMD凭借先进工艺，和高核心数量正逐步侵占英特尔的地位。

另一边对着数据中心虎视眈眈的英伟达，除了绕开x86的险地，推出Arm架构的CPU外，围绕手上的三U体系，英伟达对数据中心的计算架构提出了新的见解。

不过，英伟达选择了新的道路：让计算围绕数据因地制宜。

宋庆春指出，数据在网络通信过程中，很多通信模型会制约整个系统性能的发展，用传统的冯·诺依曼架构的计算模型就会造成网络拥塞。无论是提升带宽还是降低延迟都无法解决这一问题，如何继续提升数据中心的性能成了业界面临的新挑战。

以数据为中心的新架构就此被提出。宋庆春解释，新架构的特征是数据在哪，计算就在那：当数据在GPU上，计算就在GPU上；当数据在网络中传输时，计算就在网络中。

通过这样的方式即可解决网络传输中的丢包问题或其他瓶颈。新架构可以使通讯延时降低10倍以上，因而网络计算成为现在以数据为中心的架构的关键技术之一。

但这场变革需要帮手，因为围绕数据密集型应用已进入多芯片融合时代，CPU、GPU、FPGA等已入列，被誉为继CPU、GPU后的第三颗算力芯片——DPU，将成为这场变革的关键因素。

DPU扮演何种角色？

DPU即Data Processing Unit，是面向数据中心的基础架构处理器。“DPU就是做那些CPU做不好，GPU做不了的计算任务。”中科院计算所研究院、中科驭数创始人兼CEO鄢贵海曾对集微网表示，“作为最新发展起来的处理器的一个大类，DPU产生的背景是数字智能时代，数据爆发导致的‘端-边-云一体化’趋势带来对计算延迟、数据安全、资源虚拟化的需求。”

DPU有可能成为继CPU和GPU之后的第三颗算力芯片，在英伟达眼中，它的出现为以数据为中心的新计算架构带来不同的思路，它的到来解放了CPU和GPU的计算资源。

宋庆春表示，此前以CPU为主体的系统里，所有操作都用CPU来做。以Open vSWITCH(OVS)为例，若用CPU来运行，会占用许多CPU的资源，但包转发率非常低，但用DPU来操作，包转发率大幅提升，CPU的计算资源又被解放了。更值得关注的是，当用DPU运行时，实现了业务和基础设施操作的分离，大幅降低了长尾延时。

在去年宣布推出DPU芯片时，英伟达创始人黄仁勋就表示，数据中心已成为新型计算单元，在现代化、安全的加速数据中心中，DPU已成为其重要的组成部分。CPU、GPU和DPU的结合，可构成完全可编程的单一AI计算单元，提供前所未有的安全性和算力。

在今年的GTC大会上，英伟达又迎来自己DPU产品线BlueField的新迭代。

作为业内首款400G以太网和NDR InfiniBand DPU，BlueField-3具有出色的网络性能。相比上一代产品，它具有5倍加速计算能力、16个Arm A78 CPU核，和4倍的加密速度。BlueField-3也是首款支持第五代PCIe总线并提供数据中心时间同步加速的DPU。BlueField-3可为NVIDIA Morpheus提供实时的网络可视化、网络威胁的检测与响应，以及监控、遥测和代理服务，Morpheus是一个先进的基于AI的云原生网络安全平台。此外，BlueField-3利用NVIDIA DOCA（集数据中心于芯片的架构）软件开发包的优势，为开发者提供一个完整、开放的软件平台，开发者可在BlueField DPU上开发软件定义和硬件加速的网络、存储、安全和管理等应用。

黄仁勋在GTC上表示：“现代超大规模云技术推动数据中心从基础上走向了新的架构，利用一种专门针对数据中心基础架构软件而设计的新型处理器，来卸载和加速由虚拟化、网络、存储、安全和其它云原生AI服务产生的巨大计算负荷。BlueField DPU正是为此而生。”

DPU的应用生态系统正逐步建立，领先的服务器制造商戴尔、浪潮、联想和超微正在将BlueField DPU集成到他们的系统中。全球云服务供应商都在使用BlueField DPU来加速他们的业务，如百度、京东和UCloud。

以UCloud为例，据UCloud资深技术专家马彦青介绍，从2018年起，UCloud 便开始积极探索基于BlueField DPU的高性能裸金属物理云方案，并在去年上半年成功上线裸金属物理云1.0。通过DPU集成的多核ARM CPU快速将物理云基础架构软件从x86迁移到DPU中，满足了物理云客户高带宽、低延时的网络需求。裸金属物理云2.0继承了1.0版本的优点，在取代原先传统物理云独立网关的模式，打通公有云网络的同时，内网带宽也实现了升级，采用bonding后可达到40Gbps水平。经测试，裸金属云盘可以达到约40万IOPS的高吞吐，真正实现灵活性与性能的兼顾。

他表示，选用DPU的初衷既是为了解决网络性能的瓶颈问题，也是为了降低成本。

在GTC 2021上，黄仁勋在接受集微网在内的媒体群访时表示，未来属于零信任、云原生、高计算性能的数据中心，最终也是在一个强大的芯片上建立前沿数据中心。DPU与GPU的结合将会非常重要，在将来会看到数以亿计的服务器级别的电脑在全球铺设开。

多芯片融合时代的到来

“X”PU芯片的应运而生，作为服务器领域的常年霸主，英特尔也不得不面对并承认这个事实。在第三代志强发布会上，英特尔表示，过去一年，英特尔也一直在转型，从一家CPU公司转型为一个XPU平台公司，X代表很多不同的产品，包括FPGA、AI加速芯片等。

另一边，向服务器领域施展拳脚的英伟达在发布面向数据中心的CPU之后，三U阵容正蓄势待发。而在DPU这条赛道上，除传统巨头外，一些初创企业如中科驭数、Pensando等也正开发DPU产品。

宋庆春对集微网指出，数据中心已进入多芯片融合时代，在大部分数据中心里都有GPU的身影。未来的数据中心会以AI为核心，AI正成为数据中心里非常关键的技术。对于英伟达而言，未来的数据中心走向3U一体的架构后，为计算带来非常理想的优化空间，可根据计算类型为其分配最优的算力芯片，从而构建性能最佳的数据中心。

随着DPU的崛起，数据中心成为了新的计算单元，囊括计算、存储、通信各单元，甚至到未来会实现从单芯片到超级计算机的统一架构。“未来CPU、GPU、DPU之间的关系即是如何合理分配数据计算的位置，实现多芯片融合计算的最佳拍档。”宋庆春说道。