边缘节点上的AI,需要什么样的高性能处理架构和硬件?
▼▼▼
第五讲
将人工智能技术推动到物联的边缘节点应用1:高性能处理完成工作
我们已经了解到,要使人工智能发挥巨大潜力,这在很大程度上依赖于恰当的硬件。特别是机器学习,需要巨大的处理和存储能力。
例如,对于百度的其中一个语音识别模型,一个训练周期不仅需要4 TB的训练数据,还需要20 EFLOPS的计算能力,相当于每秒2000亿亿次(2x1019)数学运算。由于其对强大硬件的需求,现在人工智能仍主要局限于数据中心。
通过分离人工智能与数据中心并将其推动到物联网的端点,我们将能够充分发掘其潜力。这正是恩智浦的工作。
1
数据处理:从中心走向边缘节点
1
数据处理:从中心走向边缘节点
我们来详细了解一下要求。如今的物联网生态系统已亲眼见证其带来的颠覆,即“数据处理从互联系统中心到网络边缘的转变”。边缘处理已取得控制权——将计算应用、数据和服务从一些中心节点(“核心”)转移到互联网外围。
物联网设备在外围通过各种传感器(例如,视觉、语音、环境)与现实世界建立联系并输入数据。通过在边缘处理该数据,由于需要移动的数据量大幅减少,从而能够提高隐私性、减少延迟并改进服务质量。
不再依赖中心核心也意味着移除了主要瓶颈和潜在的单点故障。边缘处理基于分布式资源,这些资源可能不会持续连接到网络,例如自动驾驶汽车、植入式医疗器械、传感器高度分布的场合和各种移动设备等应用中。
要在这种充满挑战的环境下利用人工智能,必然需要能够保留学习成果并将其快速应用于新数据的敏捷应用。这种能力被称为“推理”:选取少量真实数据,并根据程序已完成的训练对其进行处理。
2
边缘计算的挑战:优化的高性能处理
2
边缘计算的挑战:优化的高性能处理
要在边缘环境中支持推理工作,需要经过优化的处理架构和硬件,对处理容量、能源效率、安全性和连接性的特定要求随之而来。
恩智浦开发的高级IC产品组合可解决现代边缘环境的挑战,在边缘机器学习领域树立了领导地位,尤其是在处理推理任务方面。事实上,我们位列全球人工智能芯片公司的前三名。
对于边缘的人工智能应用,关键设计目标是平衡系统成本与最终用户体验。例如,基于机器学习的人工智能微波炉可在1-2秒内识别食物。但是,停车信号识别、正在过马路的行人或检测车内手握方向盘的司机是否打瞌睡,则需要更快的处理速度。企业若要增强其人工智能应用组合,可扩展的处理器和软件支持是关键,因为它们可以帮助开发人员为一系列广泛的特定人工智能应用部署理想IC。
恩智浦的产品组合涵盖现代人工智能应用所需的几乎所有MCU和应用处理器产品组合:
3
量子计算:是“强AI”的灵丹妙药吗?
3
量子计算:是“强AI”的灵丹妙药吗?
为实现加速计算,量子计算机直接呈现了一个难以想象的巨大的应用空间——奇异的量子力学世界。量子计算机并不像传统数字计算机那样使用由0或1表示的位来存储信息,而是使用量子比特(qubit),将信息编码为0和/或1。
这种叠加态以及纠缠和隧穿等其他量子力学现象,使得量子计算机能够同时操控大量的状态组合。人工智能极需快速处理能力,而量子计算能否为实现强人工智能铺平道路?答案既肯定,也否定。
其实,在过去十年里,量子计算已经从有关其真实性的猜测和争论发展到小型的原型演示。不仅概念得到验证,而且使用数十量子比特构建的计算机器也已投入运行。然而,对于量子计算机,这种扩展能否继续保持下去以达到或超越经典计算机的功能,这一点仍是未知数。与量子计算机扩展相关的根本问题,导致科学家们无法明确判断是否可以构建出更大的计算机。
量子计算机的一个本质特征是,它们只适用于特定类型的计算问题。普通计算机使用的所有任意算法并非全都适合量子计算机。到目前为止,人们只开发出了少量能在量子计算机上运行的算法。其中就包括Grover算法,这种算法可显著加速超大量数据的非结构化搜索,在人工智能领域具有巨大潜力。
如果量子计算机有朝一日能够广泛部署,预计它们将与普通计算机相互补充,而不会取代普通计算机。
也有人猜测并认为量子计算机会破坏传统加密系统,如公共密钥算法(RSA、Diffie-Hellman、椭圆曲线)和对称加密(如3DES和AES)。撇开关于对这种说法的严重质疑(来源于量子计算机的概率特性),即使它真的能够破坏加密系统,那也是很久以后的事了——大约在2030年左右。
END
NXP客栈
恩智浦致力于打造安全的连接和基础设施解决方案,为智慧生活保驾护航。
长按二维码,关注我们