NXP 恩智浦半导体

文章数:1550 被阅读:2262445

账号入驻

边缘节点上的AI,需要什么样的高性能处理架构和硬件?

最新更新时间:2019-02-15
    阅读数:


让人工智能真正在应用上“落地”,一个关键的先决条件就是高性能计算。在与物联网结合之后,所谓AIoT对计算处理能力需求的焦点,正在从网络中心节点向边缘节点迁移。对于如何能够为边缘计算提供优化的高性能处理方案,恩智浦在这里中给出了答案。



▼▼

第五讲

人工智能技术推动到物联的边缘节点应用1:高性能处理完成工作


我们已经了解到,要使人工智能发挥巨大潜力,这在很大程度上依赖于恰当的硬件。特别是机器学习,需要巨大的处理和存储能力。


例如,对于百度的其中一个语音识别模型,一个训练周期不仅需要4 TB的训练数据,还需要20 EFLOPS的计算能力,相当于每秒2000亿亿次(2x1019)数学运算。由于其对强大硬件的需求,现在人工智能仍主要局限于数据中心。


通过分离人工智能与数据中心并将其推动到物联网的端点,我们将能够充分发掘其潜力。这正是恩智浦的工作。


1

数据处理:从中心走向边缘节点


我们来详细了解一下要求。如今的物联网生态系统已亲眼见证其带来的颠覆,即“数据处理从互联系统中心到网络边缘的转变”。边缘处理已取得控制权——将计算应用、数据和服务从一些中心节点(“核心”)转移到互联网外围。


物联网设备在外围通过各种传感器(例如,视觉、语音、环境)与现实世界建立联系并输入数据。通过在边缘处理该数据,由于需要移动的数据量大幅减少,从而能够提高隐私性、减少延迟并改进服务质量。


不再依赖中心核心也意味着移除了主要瓶颈和潜在的单点故障。边缘处理基于分布式资源,这些资源可能不会持续连接到网络,例如自动驾驶汽车、植入式医疗器械、传感器高度分布的场合和各种移动设备等应用中。


要在这种充满挑战的环境下利用人工智能,必然需要能够保留学习成果并将其快速应用于新数据的敏捷应用。这种能力被称为“推理”:选取少量真实数据,并根据程序已完成的训练对其进行处理。


2

边缘计算的挑战:优化的高性能处理


要在边缘环境中支持推理工作,需要经过优化的处理架构和硬件,对处理容量、能源效率、安全性和连接性的特定要求随之而来。


恩智浦开发的高级IC产品组合可解决现代边缘环境的挑战,在边缘机器学习领域树立了领导地位,尤其是在处理推理任务方面。事实上,我们位列全球人工智能芯片公司的前三名。


对于边缘的人工智能应用,关键设计目标是平衡系统成本与最终用户体验。例如,基于机器学习的人工智能微波炉可在1-2秒内识别食物。但是,停车信号识别、正在过马路的行人或检测车内手握方向盘的司机是否打瞌睡,则需要更快的处理速度。企业若要增强其人工智能应用组合,可扩展的处理器和软件支持是关键,因为它们可以帮助开发人员为一系列广泛的特定人工智能应用部署理想IC。


恩智浦的产品组合涵盖现代人工智能应用所需的几乎所有MCU和应用处理器产品组合:



3

量子计算:是“强AI”的灵丹妙药吗?


为实现加速计算,量子计算机直接呈现了一个难以想象的巨大的应用空间——奇异的量子力学世界。量子计算机并不像传统数字计算机那样使用由0或1表示的位来存储信息,而是使用量子比特(qubit),将信息编码为0和/或1。


这种叠加态以及纠缠和隧穿等其他量子力学现象,使得量子计算机能够同时操控大量的状态组合。人工智能极需快速处理能力,而量子计算能否为实现强人工智能铺平道路?答案既肯定,也否定。


其实,在过去十年里,量子计算已经从有关其真实性的猜测和争论发展到小型的原型演示。不仅概念得到验证,而且使用数十量子比特构建的计算机器也已投入运行。然而,对于量子计算机,这种扩展能否继续保持下去以达到或超越经典计算机的功能,这一点仍是未知数。与量子计算机扩展相关的根本问题,导致科学家们无法明确判断是否可以构建出更大的计算机。


量子计算机的一个本质特征是,它们只适用于特定类型的计算问题。普通计算机使用的所有任意算法并非全都适合量子计算机。到目前为止,人们只开发出了少量能在量子计算机上运行的算法。其中就包括Grover算法,这种算法可显著加速超大量数据的非结构化搜索,在人工智能领域具有巨大潜力。


如果量子计算机有朝一日能够广泛部署,预计它们将与普通计算机相互补充,而不会取代普通计算机。


也有人猜测并认为量子计算机会破坏传统加密系统,如公共密钥算法(RSA、Diffie-Hellman、椭圆曲线)和对称加密(如3DES和AES)。撇开关于对这种说法的严重质疑(来源于量子计算机的概率特性),即使它真的能够破坏加密系统,那也是很久以后的事了——大约在2030年左右。


恩智浦AIoT微课堂课程表


恩智浦AIoT微课堂内容将在NXP客栈微信公众号陆续上线发布,敬请大家关注……


  • 今天的人工智能(详情

  • 人工智能的概念(详情

  • 机器学习和深度学习详情

  • 人工智能领域的投资和“钱“途(详情

  • 边缘节点的人工智能:高性能处理(本期)

  • 边缘节点的人工智能:专用ML环境(待续)

  • 人工智能与物联网安全(待续)

  • 隐私保护中的机器学习(待续)

  • 攻击机器学习(待续)

  • 物联人工智能的未来(待续)


END

NXP客栈


恩智浦致力于打造安全的连接和基础设施解决方案,为智慧生活保驾护航。

长按二维码,关注我们



最新有关NXP 恩智浦半导体的文章

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved