如何选择边缘AI设备

最新更新时间:2021-07-29来源: EEWORLD作者: ​凌华科技物联网技术与创新副总裁Toby Mcclean关键字:边缘计算  物联网  AI  凌华科技

边缘计算在当下是最受关注的技术趋势之一。随着这一趋势的热度高涨,也许您认为是时候投资智能边缘技术,并发展物联网网络了。但是,在您决定采购新兴边缘设备之前,让我们先讨论一下到底何为边缘计算、边缘计算的作用以及您的应用是否能够受益于边缘技术。边缘计算可以大幅提升物联网网络的灵活度、速度和智能化程度,然而边缘AI设备并不是应对智能网络应用所有挑战的灵丹妙药。在帮助您确定边缘技术是否适合您的应用之后,本文将探讨购买边缘AI设备时应注意的主要功能和注意事项。


何为边缘计算?


边缘计算将物联网带入了另一个阶段。在边缘处,原始数据能够实时转化为价值。通过在整个网络中重新分配数据处理工作,边缘计算使网络节点、端点和其他智能设备的重要性得以提升、管理得以完善。


边缘计算可以说是云计算的反面。云计算时,数据中心将集中处理从分布式网络流入的数据,并将运算结果传输回分布式网络,以触发操作或实现更改。然而,远距离传输大量数据需要考虑金钱和时间成本,以及功率消耗。


这正是边缘计算的用武之地:当功率、带宽和网络延迟问题至关重要时,边缘计算或是解决之道。应用集中式云计算时,数据在得到处理前可能需要传输数百公里,而边缘计算可以在抓取、创建或保存数据的同一网络边缘位置处理数据。这意味着边缘计算的处理延迟几乎可以忽略不计,对功耗和带宽的要求通常也会大幅降低。


当今边缘计算发展的主要推动力之一是半导体制造商,因为半导体的进步能够让芯片在不大幅增加功耗的情况下提高处理能力。位于边缘的处理器可以在不消耗更多功率的情况下,对所获取的数据进行更多处理。这样一来,更多的数据就可以留在边缘,而无需传输到核心。因此,边缘计算不仅可以降低系统总功耗,还能缩短响应时间并更好地保护数据隐私。


人工智能(AI)和机器学习(ML)等技术也受益于边缘计算:它们也需要在提高数据隐私安全性的同时降低数据获取成本,而这些都可以通过边缘处理来解决。传统上,AI和机器学习等技术需要海量资源才能运行,远非端点或智能设备通常可提供的量级。然而如今,硬件和软件的进步有可能把这些赋能技术嵌入到网络边缘更小型、资源更受限的设备中。


评估边缘AI


在选择能够执行边缘处理并运行AI算法或机器学习推理引擎的平台前,必须进行仔细评估。简单的传感器和执行器,甚至需要在物联网中应用的传感器和执行器,都可以通过较小的集成设备来实现。提高边缘执行处理量需要一个更强大的平台,并应用高度并行化的架构。这通常意味着需要使用图形处理器(GPU),但是如果平台过于强大,也会给网络边缘有限的资源带来负担。


此外,边缘设备从根本上来说是现实世界的一个接口,因此需要兼容一些如以太网、GPIO、CAN、串行和/或USB等常见接口技术,并支持如摄像头、键盘和显示器等外围设备。


与环境因素可控的数据中心相比,边缘环境可能截然不同:边缘设备可能会暴露在极端的温度、湿度、振动,甚至高原环境中。这些因素将影响设备选择及其包装或安装的方式。


还需考虑的另一重要方面是法规要求。任何使用射频(RF)进行通信的设备都会受到法规的管制,并且可能需要获得许可才能使用。某些平台能够“开箱即用”,但其他平台可能需要投入更多精力。平台一旦投入使用,就不太可能进行硬件升级,因此在设计平台时就应谨慎确定其处理能力、内存和存储,为将来的性能提升留出空间。


这其中就包括软件升级。与硬件不同,软件更新部署在设备不在现场的情况下也可实现。如今,这种无线更新(OTA)方式非常普遍,未来大多边缘设备都可能支持OTA更新。


要想选对解决方案,需要仔细评估以上所有要点,并符合应用的特定需求。设备是否需要处理视频数据或音频?它仅需要监测温度,还是也需要监测其他环境指标?它是否需要始终处于开启状态,还是会长时间休眠?它会被外部事件触发吗?上述大部分要求适用于部署在边缘的所有技术,但是随着客户对处理水平和产出的期望提高,需求清单也有必要随之扩展。


边缘计算的优势


从技术上讲,现在AI和机器学习可以被应用于边缘设备和智能节点中,这将带来重大的机遇。这意味着处理引擎不仅离数据源更近,而且可以利用所收集的数据,开展更多的工作。


边缘计算的优点着实不少。首先,它能够提高其使用数据的生产率或效率。其次,由于需要移动的数据较少,边缘计算能够简化网络架构。第三,它使设备与数据中心的邻近性变得不那么重要。如果数据中心位于城市中心并离执行任务的地点很近,那么最后一点似乎无足轻重,但是如果网络边缘位于如农场或水处理工厂等遥远的地点,边缘计算就会带来很大的不同。


数据在互联网上飞速移动。当得知自己的搜索结果可能绕了地球两圈才显示在屏幕上,多数人可能会感到惊讶,因为总耗时可能只有几分之一秒,这对我们来说只是弹指瞬间。但是,对组成互联、智能且通常是自主的传感器和执行器和其他智能设备而言,每秒钟都像一小时。


这种往返延迟是实时系统的制造商和开发者需要重视的问题。数据往返于数据中心的耗时并非无关紧要,也肯定不是瞬时的,而缩短延迟就是边缘计算的关键目标。边缘计算能够与5G等速度更快的网络整合。但需要注意的是,随着越来越多的设备上线,网络提速也将无法解决累积的网络延迟问题。


据预测,到2030年,可能有多达500亿互联设备在线。如果每一台设备都需要通往数据中心的宽带,网络将一直堵塞。如果每台设备的操作都需要等待数据从上一阶段到达才能进行,总延迟很快就会变得非常明显。因此,边缘计算是缓解网络堵塞的唯一实用解决方案。


然而,尽管大多数应用都需要边缘计算支持,但其优势仍很大程度上取决于应用本身。边缘计算定律将帮助工程团队确定边缘计算是否适合某些特定应用。


边缘计算的四大定律


毋庸置疑,第一定律是物理定律。射频能量的优点是它能以光速传播,就像光纤网络中的光子一样。但缺点是它们无法更快速地传输。因此,如果射频能量的往返时间仍然较长,边缘计算可能更好的选择。


Ping测试提供了一种简单的方法来测量数据包在两个网络端点之间传输所需的时间。在线游戏通常托管在多台服务器上,游戏玩家需要对服务器进行ping操作,直至找到延迟最小的服务器,以实现最快速的数据传输。由此可见,即使十分之一秒对于时间敏感型的数据也十分关键。


网络延迟不只取决于传输机制。数据传输的两端都有编码器和解码器,物理层需要将电子转换为正在使用的某一能量形式,然后再将其转换回去。即使处理器以GHz级的速度运行,这一过程也需要时间,且移动的数据量越大,所需时间越长。


第二定律是经济学定律。该定律相对更为灵活,但是随着对处理和存储资源的需求猛增,其可预测性也越来越差。利润本就微薄,如果在云中处理数据的成本突然上升,就可能造成亏损。


云服务的成本包括购买或租用服务器、机架或刀片。成本高低可能取决于CPU内核数、所需的RAM或永久存储量、以及服务级别。相较于缺乏保障的服务,可以保障正常运营时间所需的服务成本会更高。网络带宽基本上是免费的,但是如果需要带宽始终保持某一标准,则将需要为此服务付费,在评估成本时需要考虑这一点。


话虽如此,边缘数据处理的成本不会大幅波动。一旦支付了设备的初始成本,在边缘处理任何数量数据的额外成本几乎为零。


数据有价值是由于其携带的信息。这就与第三定律有关,即土地定律。现在,任何捕获信息的人可能都需要遵守捕获数据所在区域的数据隐私法。这意味着即使您是数据设备的合法所有者,可能也不被允许跨地理边界传输该数据。


相关规定包括欧盟数据保护指令、通用数据保护条例(GDPR)和亚太经济合作组织隐私框架。加拿大的《个人信息保护和电子文件法》符合欧盟的数据保护法,而美国的《安全港安排》也显示了类似的合规性。


然而,边缘处理可以解决这一问题。通过在边缘处理数据,数据就无需离开设备。便携式消费设备的数据隐私变得越来越重要。手机上的面部识别使用本地AI来处理相机图像,因此数据永远不会离开设备。同样,闭路电视(CCTV)和其他安全监视系统使用摄像头来监控公共空间,图像通常需要经过基于云的数据服务器进行传输与处理,这就带来了数据隐私问题。通过边缘计算,数据就可在摄像头端直接处理,更快速安全,并有可能消除或简化对数据隐私措施的需求。


最后,我们要考虑墨菲定律,即如果某些地方可能出错,那么它终将出错。当然,即使最精心设计的系统也总有可能出错。通过网络传输数据、在云端存储数据并在数据中心处理数据的整个过程中可能会出现许多故障,而边缘处理可以避免冗长过程中可能出现的故障。


提出有关边缘计算的正确问题


即使您的应用能够受益于边缘处理技术,仍然有一些问题需要加以考量。以下是一些最为相关的问题:


1.您的应用在哪种处理器架构上运行?将软件移植到不同的指令集上可能代价高昂并造成延迟,因此升级并不意味着要使用另一架构。


2.您需要哪种I/O?这可以是任何数量的有线和/或无线接口。日后添加会导致效率低下,因此需要尽早确定。


3.设备的运行环境如何?是极热、极冷还是两者兼而有之?火星任务是很好的“边缘处理”示例,其运行环境十分多变!


4.经过认证?答案几乎是肯定的,因此选择经过预认证的平台能够节省时间和成本。

5.设备需要多大的功率?就单位成本和安装而言,系统功能非常昂贵,因此了解到底多少算“足够”非常重要。


6.边缘设备是否受制于外形尺寸?与其他许多部署相比,这在边缘处理中更为重要,因此在设计周期的早期就应予以考虑。


7.服务时长有多久?设备将用于可能需要运行多年的工业应用,还是以月为单位衡量生命周期?


8.就处理能力而言,系统性能要求是怎样的?比如每秒的帧数?有哪些内存要求?应用使用什么语言?


9.有成本方面的考量吗?这是一个棘手的问题,因为答案是肯定的,但是了解成本限制会有助于您做出选择。


结论


边缘处理体现自物联网,但还不止于此。其驱动力来自于比实现上述互联设备更高的期望。在基本层面上,设备可能需要低功耗低成本,但是现在还需要提供更高级别的智能操作,并且不影响功耗和成本。


选对技术合作伙伴,就能轻松选择合适的平台。凌华科技拥有广泛的边缘处理解决方案组合,并与众多提供互补技术的公司合作。欢迎加入边缘计算开发生态系统,我们将更好地助力您为AI应用选择合适的边缘计算平台。


【关于凌华科技】


凌华科技引领边缘计算,是AI人工智能驱动世界的推动者。我们制造并开发用于嵌入式、分布式与智能计算的边缘硬件与软件解决方案,全球超过1600家客户信任凌华科技,选择我们作为其关键任务的重要伙伴,从重症监护室的医疗计算机到全球第一辆高速自动驾驶赛车,都有我们的足迹。


凌华科技是英特尔、NVIDIA、AWS和SAS的重要合作伙伴,并加入了英特尔顾问委员会、ROS 2技术指导委员会以及Autoware自动驾驶开源基金会。我们积极参与了开源技术、机器人、自主化、物联网、5G等超过24个标准规范的制定,以驱动智能制造、网络通信、智能医疗、能源、国防军工、智能交通与信息娱乐等领域的创新。


凌华科技拥有1800多名员工和200多家合作伙伴。25年以来,我们秉持并推动当今和未来技术的发展,创新科技,转动世界。


关键字:边缘计算  物联网  AI  凌华科技 编辑:张工 引用地址:http://news.eeworld.com.cn/IoT/ic543216.html

上一篇:瑞萨电子与Syntiant共同开发语音控制多模态AI解决方案
下一篇:英特尔全新至强 W-3300 处理器发布

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

人工智能正在改变物流自动化的方式,将为劳动密集型产业
来看,没有单一的“正确的”的软件解决方案,运行软件的硬件平台也是如此。利用模块化的方法构建边缘计算为了提高灵活性并减少被供应商绑定,凌华科技在硬件层面上开发了一种模块化的方法,这样可以让任何解决方案中的硬件配置变得更加灵活。实际上,硬件级别的模块化可以让工程师更改系统硬件的任何部分,例如处理器,而且不会造成系统范围的中断。在部署边缘人工智能等新技术时,“升级”底层平台(无论是软件,处理器等)的能力尤为重要。每一代新的处理器和模块技术通常为网络边缘的推理引擎提供了更好的功率/性能的平衡,因此能够快速利用这些性能和功率增益,把整个物流自动化系统的中断降到最低的程度,并且边缘人工智能系统设计也是一个明显的优势。通过使用微服务架构和Docker容器
发表于 2021-08-30
边缘计算开发者大赛启动,英特尔携手伙伴加速生态创新
边缘计算开发者大赛启动,英特尔携手合作伙伴加速业界生态创新2021年8月26日,北京——由中国信息通信研究院、工业互联网产业联盟、边缘计算产业联盟联合主办,中国互联网学会、中国自动化学会、全球移动通信系统协会(GSMA)协办的边缘计算开发者大赛今日正式启动。本次大赛上,英特尔与施耐德电气联合承办了边缘控制赛道的比赛,面向高等院校、科研机构、企事业单位、初创团队、个人开发者等边缘计算应用开发等相关领域人群广泛征募参赛开发者。英特尔公司副总裁、物联网视频事业部全球总经理、物联网事业部中国区总经理陈伟博士表示:“作为改革开放的见证者,英特尔公司看到了中国市场的快速发展,特别是中国本地生态产业链的快速成长。在此期间,英特尔的角色也从一
发表于 2021-08-26
边缘计算开发者大赛启动,英特尔携手伙伴加速生态创新
贸泽开售嵌入式本地语音助手应用的NXP i.MX RT106S跨界处理器
贸泽开售适用于嵌入式本地语音助手应用的NXP i.MX RT106S跨界处理器2021年8月20日 –专注于引入新品的全球电子元器件授权分销商贸泽电子(Mouser Electronics)即日起备货NXP Semiconductors的全新i.MX RT106S跨界处理器。这款处理器采用了Arm® Cortex®-M7内核的高级实现,可为嵌入式本地语音助手应用以及物联网、智能工业和智能家电应用提供所需的高CPU性能和实时响应能力。贸泽分销的NXP i.MX RT106S处理器是EdgeVerse™边缘计算平台中的一款产品。该处理器的运行主频最高可达600MHz,具有1MB的片上SRAM,并支持面向GUI和增强型HMI应用的高级
发表于 2021-08-20
贸泽开售嵌入式本地语音助手应用的NXP i.MX RT106S跨界处理器
Microchip推出新型中等带宽FPGA器件
Microchip推出新型中等带宽FPGA器件,实现边缘计算系统功率和性能的飞跃Microchip全新低密度PolarFire器件静态功耗是同类器件的一半,同时提供全球最小的发热区域边缘计算系统需要紧凑的可编程器件,并具有低功耗和足够小的发热区域,以消除对风扇和其他散热器件的要求,同时提供强大的计算力。Microchip Technology Inc.(美国微芯科技公司)推出的中等带宽现场可编程门阵列(FPGA)和FPGA系统级芯片(SoC)器件将静态功耗降低了一半,与所有同类器件相比,具有最小的发热区域,最优的性能和计算能力,完美解决了上述挑战。Microchip FPGA业务部副总裁Bruce Weyer表示:“我们新推出
发表于 2021-08-11
Digi-Key 推出未来工厂视频系列展示了边缘计算
Digi-Key 推出未来工厂视频系列,该旗舰视频系列展示了边缘计算如何帮助工厂在无需搭建中心网络情况下有效利用和操作现场机器美国 , 明尼苏达 , 锡夫里弗福尔斯市 - 2021 年 07 月 27 日Digi-Key Electronics 拥有全球品类最丰富且能够立即发货的现货电子元器件, 日前推出聚焦工业自动化发展的全新视频系列——“未来工厂”。该三部曲视频系列由 Banner Engineering 和 Weidmüller 协助制作,充分展示了机器人、自动化 、联网以及尖端制造技术方面的最新创新。 Digi-Key 与 Banner Engineering 和 Weidmüller 携手推出工业自动化创新
发表于 2021-07-28
Digi-Key 推出未来工厂视频系列展示了<font color='red'>边缘计算</font>
专用芯片使Cat.1焕发新活力,蜂窝物联网格局或迎颠覆
LTE Cat.1在2020年一夜之间进入爆发期,成为物联网行业的“顶级流量”。同时工信部在去年5月发布了《关于深入推进移动物联网全面发展的通知》,明确指出由NB-IoT、LTE Cat.1 bis技术承接2G/3G物联网业务。业内普遍认同“10%-30%-60%”的蜂窝物联网结构,即Cat.4以上及5G承载高速率、低时延业务;NB-IoT承载低速率窄带业务;Cat.1或eMTC承载中低速率和语音业务。随着Cat.1技术性能的不断提升,落地的场景越来越丰富,产业界逐渐意识到可能严重低估了Cat.1的市场潜力和爆发力,蜂窝物联网大致1:3:6的格局或迎来颠覆。如果说,2G/3G清频退网释放的市场需求是Cat.1快速发展的重要推手
发表于 2021-09-03
专用芯片使Cat.1焕发新活力,蜂窝<font color='red'>物联网</font>格局或迎颠覆
小广播
换一换 更多 相关热搜器件
更多每日新闻
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2021 EEWORLD.com.cn, Inc. All rights reserved