Arm Neoverse正在成为数据中心的新势力

Arm在拥有手机和物联网设备的通用计算能力后，其下一步行动目前尚不明朗。尽管x86巨头在数据中心占据主导地位，但Arm和RISC-V之间在小型平台上的竞争已初露端倪。然而，Arm一直在积极拓展其业务，向上发展至基础设施领域，包括云计算、有线和无线通信，甚至延伸到网关和边缘设备。起初，他们的步伐是稳健的，但最近他们更积极地寻求取代主流处理器和FPGA，成为以AI为中心的GPU的前端，广泛应用于超大规模扩展、DPU、电信公司的网关和无线基带，以及汽车等边缘应用领域。在我看来，这是对支撑我们所有电子技术的快速增长和高价值基础设施的一次重要而未被充分认识的布局。

Arm的Neoverse系列在基础设施领域持续占据一席之地。以英伟达的超级芯片为例，这款名为Grace-Hopper的设备实际上是由两个芯片组成：Hopper是处理所有AI内容（如张量运算等）的GPU，而Grace则是一个CPU，与Hopper紧密耦合，通过I/O和内存管理功能实现与常规云世界的连接。Grace基于Neoverse V2构建，拥有72个核心。近期Arm估值的上涨，正是由于其与人工智能相关的广泛应用和市场前景。

Amazon Web Services（AWS）利用Neoverse构建了高效节能的Graviton横向扩展服务器系列，最近的版本是Graviton 4。由于AWS EC2实例几乎全部基于Graviton而非x86处理器，因此对这些平台的需求非常旺盛。AWS还开发了自己的机器学习平台Tranium，虽然Arm在他们的幻灯片中引用了该平台，但我猜测它同样基于Neoverse架构。

与此同时，微软也宣布推出了Cobalt 100服务器芯片和Maia 100 AI芯片。这两款芯片在Arm的Neoverse幻灯片中被提及，并确认将基于Neoverse架构构建。值得注意的是，AWS和Microsoft Azure在云提供商服务（CPS）市场上占据主导地位，且遥遥领先其他竞争对手。其他CPS企业也在追随这一趋势。

此外，Nvidia围绕Neoverse构建了Bluefield DPU平台、AWS的Nitro虚拟机管理系统以及微软的Azure Boost系统。Neoverse在数据中心无处不在，已经成功应用于安培服务器以及诺基亚、爱立信和华为的无线基础设施中。

在推动Neoverse引擎发展方面，Arm每年都会推出新的核心。今年，他们在性能优化的V系列中增加了V3，在性能功耗比的N系列中增加了N3，在数据吞吐量的E系列中增加了E3。令人印象深刻的是，上一代V2在SQL数据库性能、Java和XGBoost（机器学习中的梯度提升优化器）方面的基准测试表现已经超越了x86处理器。V3在一系列以企业为中心的基准测试中比V2取得了两位数的进步，并在AI数据分析方面比V2提升了高达84%的优势。N3在各个方面都比N2表现出显著的性能提升，尤其在AI数据分析方面实现了近200%的进步。

最近的一项战略举措是基于Arm的计算子系统（CSS）内核进行构建，该内核计划于2023年年中发布并用于N系列。上一代CSS是一个可定制的计算子系统，已经过Arm的验证、优化和PPA（性能、功耗、面积）调整。考虑到多核集群的目标需求，用户不仅可以获得类似乐高积木的组件（如CPU核心、一致性互连、内存子系统等），还可以获得一个完整的、可定制的计算子系统配置，包括Neoverse CPU核心、多个DDR/LPDDR通道以及多个PCIe/CXL PHY/控制器等。所有这些组件都通过Arm的总体设计计划针对特定客户工作负载和目标代工厂/流程进行了调整、验证和优化。

在最新的公告中，Arm发布了一款新的CSS N3配置，支持每个芯片包含8至32个内核，其中32个内核的热设计功耗低至40W。此外，他们还发布了首款V系列的CSS-V3，其性能相较于CSS-N2提升了50%。微软的Cobalt芯片正是基于CSS-N2构建的。

鉴于通信服务提供商、移动网络运营商以及汽车原始设备制造商之间的激烈竞争，越来越少的产品团队会认为自己有必要重新发明这个CSS轮子。从CSP的角度来看，能够让计算子系统适应其工作负载需求，同时节省开发成本和上市时间，并保留差异化竞争优势，显然是一种非常合理的选择。

在软件方面，Arm已经成功地融入了软件堆栈的各个层面，形成了一个完善的生态系统。对于云应用程序而言，Arm与开源领导力在语言、工具、Linux发行版和网络等方面的紧密合作尤为重要。随着基于Arm的实例越来越普遍，基于云的软件开发人员开始看到使用Arm进行开发并在Arm平台上优先提供服务的明显优势，从而形成了一个良性循环。

为了强调这一策略的有效性，Oracle现在提供了支持基于Arm硬件的19C数据库平台，无论是在云端还是在本地环境。同样地，SAP也将其SAP HANA云迁移到了AWS Graviton处理器上。这两个都是非常重要的企业应用程序。考虑到成本和软件可用性的优势，我相信未来会有更多的软件和SaaS提供商效仿这一做法。