NXP eIQ深度学习包加速汽车AI应用开发

翻译自——EEtimes，Junko Yoshida

自动驾驶汽车(AV)的发展并不一定需要人工智能或深度学习。简单地说，不是所有的AV都需要AI驱动。然而，深度学习的快速进步和准确性的提高，吸引了寻求改进其高度自动化工具的开发人员。

但是仍然存在一些验证人工智能驱动的AV安全性的困难。安全研究人员担心深度学习的“黑箱”性质，这只是众多棘手问题的一个。目前还不确定AV设计者是否能够验证一个持续学习的AI系统或者功能，一旦部署在车内的专用硬件上，其表现是否会与在更强大的计算机系统上开发和培训时一样，这仍是一个未知数。

尽管存在这些问题，自动驾驶AV和安全领域的专家都认识到人工智能的发展是不可避免的。

随着UL 4600规范草案的发布，Edge Case Research的首席技术官Phil Koopman说到：“我们追求的是完全自主。”

UL 4600是目前保险商实验室正在开发的用于评估自主产品的安全标准，它既不假设也不要求在AV中部署深度学习。但是，该标准涵盖了对安全至关重要的应用程序中使用的任何机器学习和其他自治功能的验证。

深度学习的汽车级软件工具包

在此背景下，NXP半导体公司推出了eIQ自动深度学习工具包，使汽车AI应用开发性能提高30倍，并且能使客户更快开发AI应用。

恩智浦半导体汽车人工智能战略与伙伴关系主管Ali Osman Ors表示:“迄今开发的大多数深度学习框架和神经网络都用于视觉、语音和自然语言等消费者应用上。”但它们不一定是在开发与性命攸关的应用程序时考虑的。

作为领先的汽车芯片供应商，NXP正在进一步改进其软件工具包，使之符合汽车软件性能改进和ASPICE能力等级评定。ASPICE是德国汽车制造商为改善软件开发过程而制定的一套指导方针。

NXP表示， eIQ自动工具集专门为NXP的S32V234处理器设计，这将帮助AV开发人员优化深度学习算法的嵌入式硬件开发，并加快推向市场的时间。

当被问及是否有类似的用于深度学习的自动评分工具包时，Ors说:“一些汽车原始设备制造商可能已经在内部设计了他们自己的工具。但据我所知，我还没有见过其他汽车芯片供应商提供像我们这样的汽车质量软件工具包来进行深度学习。”

修剪、量化、压缩

如今，我们对嵌入式系统的数据准备和训练(学习)以及人工智能推理的过程有了很好的理解。

据说AV开发者在测试车辆行驶在公共道路上时，以每秒4Gb的速度收集数据。对如此庞大的数据进行清理和注释并将其用于培训数据上的代价非常昂贵。在某些情况下，光是数据标记处理本身

的开销就会大大削弱AV初创公司。

但对AV设计师来说，同样具有挑战性的是如何让优化AI模型并将其部署在推理引擎上所涉及的艰巨任务中去。Ors解释，NXP的工具加速了神经网络的“量化、修剪和压缩”过程。

首先，修剪意味着删除神经网络结构中存在的冗余连接，删除不重要的权重。当然，新的“修剪”模型将会失去准确性。因此，模型必须在修剪后进行微调，以恢复其准确性。

接下来，量化创造了一个“高效的计算过程”，它涉及到通过集群或四舍五入来绑定权重，以便使用更少的内存来表示相同数量的连接。另一种常见的技术是通过舍入将浮点权值转换为定点表示。与修剪一样，模型在量化后必须进行微调。

AV设计师通过运行测试数据(深度学习系统之前没有见过)来评估转换模型的准确性，并进一步对模型进行微调。

分区负载

除此之外，eIQ Auto对工作负载进行分区，并为神经网络的每个部分选择最优计算引擎。它加快了手工制作推理引擎的过程，因为该工具可以帮助AV设计师找出哪些任务在CPU、DSP或GPU中运行得最好。Ors解释，由于eIQ Auto必须非常熟悉处理器内部的情况，所以它不能用于非NXP设备。

eIQ Auto除了提供模型优化和使用工具(脚本、编译器工具链)和运行库(C/ c++、vector DSP、NEON)之外，还提供TensorFlow、ONNX、Caffe、Pytorch等培训框架和模型格式的接口。

总之，该工具包帮助客户快速从开发环境转移到满足严格的汽车标准的AI实现。

人工智能在AV中应用

如今，“视觉”是车内最流行的人工智能应用，它利用神经网络对图像上的物体进行分类。视觉还用于司机和机舱监控、人脸识别和占用率检测。

在汽车领域其他潜在的AI应用还有雷达。

未来的雷达有望使用神经网络根据其图像对道路使用者进行分类。然而，Ors指出，人工智能在雷达中的应用仍未得到发展。“由于使用雷达作为传感器的相关规定，以及进入门槛会比较高。“他补充说：与CMOS图像传感器相比，雷达也很昂贵。这意味着雷达数据,不能轻易获得，从而限制了可用的数据集。

人工智能也有望应用于数据融合，例如雷达视觉。但是，对于何时融合两种感官数据，业界还没有达成共识。“早期融合和晚期融合仍在争论中，”Ors表示。

今天，大多数测试的AV都配备了耗电硬件，这对于大批量的汽车生产来说并不理想。NXP希望其新的eIQ工具包能够使客户“在具有最高安全性和可靠性的嵌入式处理器环境中”部署强大的神经网络。