嵌入式AI的盛宴来了，谁来吃？

过去10年，通用嵌入式计算取得了飞速发展，其应用触角已延伸至航空航天、工业、电力、消费等各个领域。不过，将嵌入式与AI结合起来是最近几年才出现的事情。

嵌入式AI，实际上是一种让AI算法可以在终端设备上运行的技术概念。因嵌入式AI的芯片体积更小，价格相对低廉，产生的热量和耗电量更是比“云”端设备小得多，因而可以集成到智能手机等手持设备以及机器人等非消费类设备中。正是嵌入式AI或者边缘AI（edge AI）芯片的出现，减少或消除了将大量数据发送到云端的需要，从而在可用性、速度以及数据安全和隐私方面带来了极大的便利和好处。

图1：嵌入式人工智能从云端到边缘的研究进展（图源：网络）

边缘嵌入式AI芯片的应用给消费者和企业带来了重大变化。对于消费者来说，边缘AI芯片可以提供很多功能——从解锁手机，到与语音助手进行对话，到在极其困难的条件下拍摄照片，而且不需要互联网连接。但从长远来看，边缘AI芯片的更大影响可能来自于其在企业中的应用。在企业中，边缘AI芯片可以使公司的物联网应用达到一个全新的水平。

在这些利好的背后，问题也随之出现：现有的标准芯片不太符合边缘侧智能化的需求。目前，机器学习主要由CPU、GPU、FPGA和ASIC的混合体来进行所有的训练和推理。从早期AI直至今天，CPU、GPU和FPGA的应用非常广泛，它们很好地契合了深度学习的内存密集型需求。不过，开发人员和系统设计人员逐渐发现，要在嵌入式设计中添加某种形式的神经网络或深度学习能力，将现有的CPU、GPU、FPGA等标准芯片降级为通用嵌入式AI，会出现水土不服的现象。其主要原因是这些通常放在数据中心的芯片普遍尺寸大、价格昂贵、耗电量大。

换句话说，在实际应用中，现在的嵌入式AI还有瓶颈。这个瓶颈不是在算力方面，而是芯片的尺寸、价格、耗电及散热等方面。因此，面向边缘智能的嵌入式AI离不开专用芯片支持。

此外，它还集成了独立的800MHz Cortex-M7，用来处理实时任务、H.265和H.264的视频编解码、800MHz HiFi4 DSP以及用于语音识别的8通道PDM麦克风输入。借助i.MX 8M Plus，语音识别、对象检测、人脸识别、对象分割、增强现实、手势识别等应用均可在边缘运行机器学习。

图2 ：恩智浦i.MX 8M Plus支持在边缘运行机器学习的部分应用（图源：NXP）

Xilinx Versal ACAP是一款自适应计算加速平台，它融合了用于嵌入式计算的新一代标量引擎、用于FPGA芯片编程的自适应引擎，以及用于AI推断与高级信号处理的智能引擎，拥有卓越的计算性能和单位功耗。

图3：Xilinx的Versal ACAP功能框图（图源：Xilinx）

Maxim神经网络加速器MAX78000是一款低功耗微控制器，它支持电池供电的嵌入式IoT设备在边缘通过快速、低功耗AI推理来制定复杂决策。MAX78000将高能效AI处理与超低功耗微控制器结合在一起，内建的基于硬件的卷积神经网络 (CNN) 加速器可在电池供电应用执行AI推理，而仅消耗微焦耳级别的能量。

图4：Maxim具有神经网络加速器的低功耗微控制器MAX78000（图源：Maxim Integrated）

总之，嵌入式AI的兴起，使得传统的嵌入式厂商也有机会参与到AI的盛宴之中。不过要想在分食未来AI应用市场的蛋糕时分得更多的份额，那现在就应该开始行动了！