CEVA推出新一代适用于AI/ML的NeuPro-M IP

最新更新时间:2022-01-13来源: EEWORLD关键字:CEVA  处理器  AI  边缘计算 手机看文章 扫描二维码
随时随地手机看文章

CEVA凭借NeuPro-M异构安全处理器架构重新定义边缘 AI 和边缘计算设备的高性能 AI/ML 处理


•第三代 NeuPro AI/ML 架构在 SoC 和小芯片层面提供 20至1,200 TOPS可扩展性能,能够将内存带宽消耗减低六倍


•目标是在汽车、工业、5G 网络和手机,监控摄像头和边缘计算领域中广泛使用 AI/ML处理


image.png


CEVA,全球领先的无线连接和智能传感技术及集成IP解决方案的授权许可厂商宣布推出用于人工智能和机器学习 (AI/ML) 推理工作的最新一代处理器架构NeuPro-M。NeuPro-M由多个专用协处理器和可配置硬件加速器组成,是瞄准广阔的边缘 AI 和边缘计算市场的异构处理器架构,能够同时无缝处理深度神经网络的各种工作,性能较上一代产品提升 5到15 倍。NeuPro-M支持系统级芯片(SoC)和异构SoC (HSoC)可扩展性,最高性能可达 1,200 TOPS,并提供可选的稳健安全启动和端至端数据隐私功能,开创了业界先河。


NeuPro–M系列处理器初始包含以下预配置内核:


•NPM11 – 单个 NeuPro-M 引擎,在 1.25GHz 下算力高达 20 TOPS

•NPM18 – 8 个 NeuPro-M 引擎,在 1.25GHz 下算力高达 160 TOPS


在处理 ResNet50卷积神经网络时,单个 NPM11内核可将性能提升至上一代产品的五倍,并将内存带宽消耗减少六倍,从而实现高达 24 TOPS/W的出色功效,完美体现其业界领先的性能水平。


以成功的上一代产品为基础,NeuPro-M能够处理所有已知的神经网络架构,并集成了下一代网络,如transformer、3D convolution、self-attention和全部类型的循环神经网络的原生支持。经优化的NeuPro-M可处理 250 多种神经网络、450 多种AI 内核和 50 多种算法。嵌入式矢量处理单元(VPU)确保对未来新的神经网络拓扑和AI处理工作提供基于软件的验证和支持。而且,对于常见基准测试,CDNN离线压缩工具可以将NeuPro-M的FPS/Watt性能提高 5到10 倍,并且对精度仅有极小的影响。


CEVA副总裁兼视觉业务部门总经理 Ran Snir评论道:“随着生成的数据越来越多,以及传感器相关软件工作负载不断迁移到神经网络以获得更好的性能和效率,对边缘 AI和边缘计算的人工智能和机器学习处理需求的增速惊人。由于这些设备的功率预算保持不变,我们必需找到创新方法,在这些日益复杂的系统边缘使用人工智能。我们利用在数百万台无人机、安全摄像头、智能手机和汽车系统应用等设备中部署 AI 处理器和加速器的丰富经验来设计NeuPro-M架构。NeuPro-M创新的分布式架构和共享内存系统控制器将带宽消耗和延迟降至最低,并提供出色的整体利用率和电源效率。这允许我们的客户在 SoC 或 小芯片 (chiplet) 中连接多个NeuPro-M兼容内核来应对最严苛的 AI 工作,从而将智能边缘处理器设计提升至全新的水平。”


NeuPro-M异构架构由特定功能协处理器和负载平衡机制组成,相比上一代产品,这是实现巨大的性能和效率飞跃的重要因素。通过将控制功能分配给本地控制器并以分层方式实现本地内存资源,NeuPro-M 实现了处理数据流的灵活性,从而实现超过90%的利用率,并且在任意给定时间内防止不同协处理器和加速器出现数据不足现象。它使CDNN 框架根据特定网络、所需带宽、可用内存和目标性能来实施各种数据流方案,从而获得最佳的负载平衡。


NeuPro-M 架构亮点包括:


•由 4K MACs(乘累加单元)组成的主网格阵列,混合精度为 2到16 位

•用于权重和激活操作的Winograd transform引擎,可将卷积时间减少两倍,并允许在精度降低到少于0.5% 的情况下进行 8 位卷积处理

•用于避免每层具有零值权重或激活操作的Sparsity引擎,最多可将性能提升四倍,同时减少耗用内存带宽和降低功耗

•具有完全可编程的矢量处理单元,用于处理未获支持的全新神经网络架构(具有全部数据类型),从 32 位浮点到 2 位二进制神经网络 (BNN)

•将可配置的权重数据压缩至两位,同时读取内存时进行实时解压缩以减少耗用内存带宽

•使用动态配置两级内存架构,最大限度地减少与外部 SDRAM 之间的数据传输功耗


使用NeuPro-M 架构中创新功能,同时使用 Winograd 变换正交机制、Sparsity引擎和低分辨率 4x4 位激活,可将网络(如 Resnet50 和 Yolo V3)的循环次数减少三倍以上。


由于神经网络权重和偏差以及数据集和网络拓扑成为所有者的重要知识产权,因而业界迫切需要保护这些信息免遭未经授权的使用。NeuPro-M架构可选用信任根、身份验证和加密加速器来支持安全接入。


针对汽车市场,CEVA提供NeuPro-M 内核及其 CEVA 深度神经网络 (CDNN)深度学习编译器和软件工具包,不仅符合汽车 ISO26262 ASIL-B 功能安全标准,并满足严格的质量保证标准 IATF16949 和 A-Spice要求。


结合CEVA 屡获殊荣的神经网络编译器 CDNN 及其功能强大的软件开发环境,NeuPro-M架构可为客户提供一个完全可编程的硬件/软件 AI开发环境,最大限度地提升 AI操作性能。CDNN 包含创新的软件,能够充分利用客户的 NeuPro-M定制硬件来优化功耗、性能和带宽。CDNN 软件还包含了用于减少耗用内存和优化负载平衡算法的内存管理器,并广泛支持各种网络格式(包括 ONNX、Caffe、TensorFlow、TensorFlow Lite、Pytorch 等)。CDNN 与常见的开源框架 (包括 Glow、tvm、Halide 和 TensorFlow) 兼容,并包含模型优化功能,例如“层融合(layer fusion)”和“训练后量化(post training quantization)”,同时使用精确的守恒方法。


目前CEVA向主要客户提供NeuPro-M授权许可,并于今年第二季提供全面授权许可。CEVA 还为客户提供异构 SoC 设计服务,帮助其进行系统集成并支持系统设计和小芯片开发,从而为NeuPro-M客户带来裨益。


关键字:CEVA  处理器  AI  边缘计算 编辑:张工 引用地址:http://news.eeworld.com.cn/IoT/ic560481.html

上一篇:EML Payments Ltd.选择Netcetera提供新的访问控制服务器 (ACS)
下一篇:Bmmpr采用Nordic的蓝牙SoC作为其安全防盗器的核心处理器

推荐阅读

CEVA和信骅科技合作在Cupola360 SoC 上实现出色的语音体验
CEVA,全球领先的无线连接和智能传感技术及集成IP解决方案的授权许可厂商(NASDAQ:CEVA) 和信骅科技(ASPEED Technology)宣布,信骅科技已经获得CEVA-BX1音频/语音DSP授权许可,并用于面向智能摄像头和视频会议系统的第二代Cupola360 SoC AST1230。通过CEVA的ClearVox多麦克风降噪和回声消除音频前端 (AFE)软件,两家企业构建解决最具有挑战性的会议系统用例。这款软件包针对CEVA-BX1 DSP进行了全面的优化,为任意语音会议系统大幅提高清晰度,并且允许添加语音助手和免提控制功能。信骅科技董事长兼总经理林鸿明评论道:“第二代Cupola360 SoC是我们首款集成实时
发表于 2022-01-07
CEVA和信骅科技在第二代智能摄像头和视频会议系统语音体验
CEVA和信骅科技合作在第二代智能摄像头和视频会议系统的Cupola360 SoC 上实现出色的语音体验 CEVA-BX1 DSP赋能信骅科技 AST1230 智能摄像头 SoC的音频/语音功能;信骅科技客户可使用 CEVA ClearVox语音前端软件来实现最具挑战性的多麦克风会议用例CEVA,全球领先的无线连接和智能传感技术及集成IP解决方案的授权许可厂商和信骅科技(ASPEED Technology)宣布,信骅科技已经获得CEVA-BX1音频/语音DSP授权许可,并用于面向智能摄像头和视频会议系统的第二代Cupola360 SoC AST1230。通过CEVA的ClearVox多麦克风降噪和回声消除音频前端
发表于 2022-01-06
<font color='red'>CEVA</font>和信骅科技在第二代智能摄像头和视频会议系统语音体验
CEVA Bluebud™平台成为实现差异化优质无线音频体验的关键
CEVA Bluebud™平台成为TWS 耳塞、游戏耳机、耳戴式设备、可穿戴设备等产品实现差异化优质无线音频体验的关键• 全新Bluebud平台的预配置软件包Bluebud-HD具有沉浸式音频、宽带语音对话、始终在线语音助手、辅助听力和基于 IMU的情境感知功能,全部在嵌入式 CEVA-BX1 DSP 上实现• SenslinQ软件框架和 DSP 工具套件适用于 Bluebud平台,简化从其他处理器架构到 CEVA-BX1 DSP 的软件迁移,并为应用程序开发人员实现虚拟化DSP编程CEVA,全球领先的无线连接和智能传感技术及集成IP解决方案的授权许可厂商 宣布推出预配置软件包Bluebud-HD,为其大获成功的Bluebud无线
发表于 2022-01-06
<font color='red'>CEVA</font> Bluebud™平台成为实现差异化优质无线音频体验的关键
联盛德获得CEVA蓝牙和 Wi-Fi IP平台授权许可,用于物联网连接
联盛德获得CEVA蓝牙和 Wi-Fi IP平台授权许可,用于物联网连接 SoCCEVA,全球领先的无线连接和智能传感技术及集成IP解决方案的授权许可厂商 宣布,物联网无线通信芯片供应商北京联盛德微电子有限责任公司(Winner Micro)已经获得RivieraWaves 低功耗蓝牙5和 Wi-Fi 6 IP 平台授权许可,用于其面向物联网市场的下一代无线连接 SoC产品,涵盖智能家居、医疗监控、视频监控和工业应用。联盛德首席执行官李庆表示:“在开发性能稳健、功能齐全的蓝牙和 Wi-Fi 平台 IP方面,CEVA拥有无与伦比的卓越记录。我们获得了RivieraWaves低功耗蓝牙5和Wi-Fi 6 IP授权许可,从而能够加速下一代
发表于 2022-01-06
联盛德获得<font color='red'>CEVA</font>蓝牙和 Wi-Fi IP平台授权许可,用于物联网连接
ASPEED选择CEVA的DSP用于其视频会议SoC中的音频和语音处理
无线连接和智能传感技术以及集成IP解决方案供应商CEVA日前联合ASPEED Technology (信驊科技)宣布,ASPEED 已在其第二代 Cupola360 SoC中获得许可并部署了 CEVA-BX1 音频/语音 DSP ,该产品用于智能相机和视频会议系统。两家公司还通过CEVA的ClearVox多麦克风降噪和回声消除音频前端 (AFE) 软件合作解决最具挑战性的在线会议应用。该软件包针对 CEVA-BX1 DSP 进行了全面优化,显着增强了任何语音会议系统的清晰度,并允许添加语音助手和免提控制功能。ASPEED Technology董事长兼总裁Chris Lin评论道:“我们的第二代Cupola360 SoC是我们第一款
发表于 2022-01-05
基于TMS320DM6437数字媒体处理器实现高级驾驶员辅助系统
实时处理,且处理时延不得超过30ms。警告延迟半秒钟,就很可能导致事故发生,而不能让驾驶员及时对警告做出反应。从数据采集到采取行动的每一步都要求强大的信号处理能力,因此,及时、准确地执行主动安全与ADAS系统必须要求高性能产品提供支持。专为汽车安全应用设计并优化的数字信号处理器(DSP),如德州仪器(TI)推出的TMS320DM643x达芬奇处理器就能提供所需的性能,从而使OEM厂商能够向市场推出主动安全与ADAS技术。动态灵活性除了高性能之外,ADAS应用还要求灵活的架构来满足多种功能要求。例如,各国的交通标志从语言、文字字体、形状到颜色等各不相同。我们必须提供足够的灵活性,这样才能在不同的产品线间尽可能地重复使用该技术
发表于 2022-01-20
基于TMS320DM6437数字媒体<font color='red'>处理器</font>实现高级驾驶员辅助系统
小广播
换一换 更多 相关热搜器件
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2022 EEWORLD.com.cn, Inc. All rights reserved