Arm Laudick：让AI无处不在

2018年以来，Arm在人工智能领域开始急速发力。无论是Arm的竞争对手还是合作伙伴，都纷纷加大对人工智能和机器学习领域的投入。Arm机器学习部门商业与市场副总裁Dennis Laudick日前表示，人工智能技术尽管发展迅速，但还是方兴未艾，仍然有极大的发展空间。“对于我来说这可能是我们这一代人能够去经历变化最大的改变世界的技术了，我自己是管它叫做软件2.0时代。”Laudick说道。

Arm机器学习部门商业与市场副总裁Dennis Laudick

Laudick介绍道，目前Arm机器学习部门有两个职责，一个是整合Arm内部的机器学习的技术，另外也负责去带动整个机器学习产品的开发。

Laudick强调道，此前机器学习一直都是在云上进行开发，然而现今机器学习已经整合到了终端设备上，越来越多的边缘计算形态也给Arm前所未有的机会。

Laudick表示：“把所有数据都送到云上，并且进行处理是不显示的。首先我们没有那么大的带宽，其次则是我们也没有太多的数据中心负责新增数据的处理，第三，在云上进行处理的反应不够迅速甚至中断，最后还有可能涉及到隐私或安全问题。”

机器学习是一个平台

“机器学习已开始是使用GPU或DSP进行的，但实际上机器学习应该在所有的处理器，所有的软件中都会用到。”Laudick说道，即便在低功耗的Cortex-M中也可以看到很多人工智能的应用。

如图所示，对于有些应用来说，需要CPU，而对于有些应用来说，则需要配合其他专属AI加速器

为此，Arm将机器学习看做一个平台，希望通过广泛的硬件、软件和标准化的框架满足机器学习的各种要求。“我们所提供的机器学习软件，将基于以Arm为基础的各种硬件平台上，所以我们为CPU、GPU不断增加人工智能处理能力，推出一系列NPU和ODP，首先从硬件上落实人工智能。”

比如最新的Cortex-A系列处理器，相比过去，机器学习性能提高了10倍，最新的Cortex-M性能也会提升4-6倍，Mali GPU同样也有数倍的性能提升。

Laudick强调，Arm的Project Trillium项目一开始就是专门为机器学习打造，而不是调整之前的处理器架构。

Arm Project Trillium项目，包含硬件IP、软件框架以及生态系统三大部分，统一协调。

Laudick透露道，再过几个月，Arm NPU将会正式上市，目前效率为4 TOPS/W，相对于年初预计的3 TOPS/W提高了33%。对此，Laudick解释道，随着设计不断进入尾声，我们发现性能远远超过当时所定下的目标，所以我们调高了预测值，并希望最终结果还能进一步提高。

Arm机器学习处理器框架及性能

如何协调人工智能的软硬件协同

Laudick表示，机器学习算法在过去发生了非常大的变化，很多人觉得算法要做的小一点、做的容易一点，这样就可以让算法适应在更小的处理器上面去跑。

但其同时强调，人工智能并不是一个处理的问题，而是数据的问题，这就意味着要对海量数据进行分析理解。所以在产品开发的时候主要关注点越来越放在数据而不是处理器上。随着未来机器学习和神经网络标准的不断演进，Arm会针对这些矩阵数学进行处理优化，使得最终的标准化数据更加精确，以改善机器学习结果和效率。

最后，Laudick总结道，通过整合一系列前所未有所的“创新”性的机器学习平台，通过广泛的软硬件、框架及生态系统的支持，Arm已经做好了迎接未来人工智能的机会。