Arm Ethos-U让NXP eIQ变得更聪明

NXP半导体近日宣布,它将提高机器学习的发展环境和产品组合。通过一项投资，NXP与加拿大Au-Zone技术公司建立了独家战略合作伙伴关系，通过易于使用的ML工具来扩展NXP的eIQ™机器学习(ML)软件开发环境，并扩展其为边缘 ML提供的硅胶优化推理引擎。

此外，NXP表示，为了支持应用处理器，他们一直在与Arm合作，开发Arm®Ethos-U™神经处理单元体系结构。 NXP将把Ethos-U65集成到下一代的i.MX应用处理器中，为快速增长的工业和物联网优势提供节能、低成本的ML解决方案。

NXP高级副总裁兼边缘处理总经理Ron Martino表示:“NXP的可扩展应用处理器为客户提供了一个高效的产品平台和广泛的生态系统，可快速提供创新的系统。”“通过与Arm和Au-Zone的合作，以及NXP的技术发展，我们处理器的效率在不断提高，同时也提高了客户的生产力，减少他们的上市时间。”恩智浦的愿景是帮助客户实现更低的拥有成本，维护关键数据高水平安全，并通过增强的人机交互形式来保证安全。”

让机器学习成为可能

NXP的 eIQ机器学习软件开发环境将各种库和开发工具相结合，用于搭配NXP微处理器和微控制器使用。该软件在嵌入式系统上进行神经网络 (NN) 人工智能 (AI) 模型的推断。eIQ机器学习 (ML) 软件提供了在边缘部署各种ML算法的关键因素（eIQ =边缘智能），包括推理引擎、NN编译器、视觉和传感器解决方案以及硬件抽象层。支持四种主要推理引擎和库 – OpenCV、Arm® NN、Arm CMSIS-NN和TensorFlow Lite。

嵌入式设计现在可以支持各种需要高性能数据计算的ML/AI应用，以便使用NXP基于Arm® Cortex®-A和M内核的i.MX应用处理器和i.MX RT交叉处理器进行快速推理。eIQ包含各种应用示例，用于演示如何将神经网络集成到语音、视觉和传感器应用中。eIQ机器学习软件开发环境利用现有硬件来加速ML应用程序开发，而无需专门用于机器学习的硬件。

Au-Zone的DeepView™ML工具套件将通过直观的图形用户界面(GUI)和工作流增强eIQ，通过NXP的边缘处理组合可以使所有级别的开发人员能够导入数据集和模型，快速培训和部署NN模型和ML工作负载。为了满足当今工业和物联网应用的苛刻需求，NXP的eIQ-DeepViewML工具套件将为开发人员提供高级功能，这方便在NXP设备上对公共或专有的NN模型进行修剪、量化、验证和部署。其目标图级分析能力将为开发人员提供独特的运行时洞察，以优化NN模型架构、系统参数和运行时性能。通过添加Au-Zone的DeepView运行时推理引擎来补充NXP eIQ中的开源推理技术，用户将能够在NXP设备上以最小的努力快速部署和评估ML工作负载和性能。这个推理引擎的一个关键特性是，它针对每个SoC体系结构的系统内存使用和数据移动进行了优化。

Au-Zone首席执行官Brad Scott表示:“Au-Zone非常高兴与NXP的投资和战略合作伙伴关系，特别是关于ML加速设备蓝图。”“我们创建DeepViewTM是为了向开发者提供直观的工具和推理技术，所以这次合作将进一步加速嵌入式ML特性的部署。”这一合作建立在与NXP十年的工程合作基础上，将提供更先进的机器学习技术和交钥匙解决方案，为OEM继续向边缘推理进行过渡。”

扩展机器学习加速

为了在更广泛的边缘应用中加速机器学习，NXP将通过集成Arm Ethos-U65 微处理器来扩展用于工业和物联网边缘的i.MX应用处理器，这可以为i.MX 8M Plus应用处理器与集成的NPU进行一次很好的补强。NXP和Arm技术伙伴关系侧重于定义这种微处理器的系统级方面，这种微处理器支持最多在1GHz上的512个并行多积累操作。Ethos-U65保持了Ethos-U55的MCU级功率效率，同时扩展了它的适用性，以更高的性能基于Cortex的SoC。Ethos-U65 微处理器与NXP i中已经存在的Cortex-M核协同工作，从而提高了效率。

Arm机器学习集团营销副总裁Dennis Laudick表示:“人工智能和ML在工业和物联网应用领域的激增，推动了对更多设备上ML能力的需求。”“Ethos-U65将推动边缘 AI的新一轮增长，为NXP客户提供安全、可靠和智能的设备智能。”

可用性

Arm Ethos-U65将出现在未来的NXP的i.MX应用处理器中。eIQ-DeepViewML工具套件和DeepView运行时推理引擎会集成到eIQ中，新产品将于2021年第一季度上市。NXP的eIQ机器学习软件开发环境将提供端到端的软件支持，包括为i.MX 8M Plus和其他NXP SoC培训、验证和或新的神经网络模型，以及集成Ethos-U55和U65的未来设备。