如何评价智能车载异构计算芯片性能？

在智能座舱里，大家都知道高通的芯片是目前的主流，比如高通8155，高通8295，车企不断的宣传让我们知道了芯片的重要性。那么在智能驾驶领域里，到底什么是重要的呢，评估面向自动驾驶的计算芯片性能时，有没有什么科学的依据呢？我们今天来解读一下“车载异构计算测评规范”的标准，这个标准非常详细地规定了测试的各个方面。

2022年7月，中国电子技术标准化研究院牵头制定了《面向自动驾驶应用的计算芯片》系列团体标准，并在中国电子工业标准化技术协会正式立项， 在2023年4月发布了该系列团体标准的征求意见稿，并拟于2023年发布该系列标 准。该系列标准包含技术要求、车载异构计算测评规范、人工智能应用工具链、传感器接口要求等四个部分。我们今天把“车载异构计算测评规范”这部分单独摘录出来进行探讨。

在这里主要提出了三个方面算力性能、智能驾驶场景AI性能和兼顾AI性能和整体端到端数据流处理能力。

Part 1

算力性能评估

在这里，普通消费者最为熟悉的TOPS，是算力的数据类型和算力单位。采用的是Tera Operations Per Second（TOPS）作为单位，表示每秒进行的计算次数。不同的数据类型包括INT4、INT8、INT16、FP16等，而在智能驾驶领域，以INT8数据类型的稠密算力为代表。

这里首先是稠密算力 vs. 稀疏算力的问题， 稀疏算力和稠密算力是计算机科学中描述计算资源利用程度的两个关键概念。

● 稀疏算力表示在任务执行中，计算资源利用率较低，主要出现在处理低密度数据或低复杂度任务时。

● 稠密算力表示计算资源利用率较高，通常出现在处理高密度数据或高复杂度任务时。

在实际场景中，稀疏算力和稠密算力存在互补关系。合理的任务分配可以根据特定任务的特点和需求，使稀疏算力和稠密算力得到有效利用。例如，低优先级、低复杂度的任务可分配给稀疏算力服务器，而高优先级、高复杂度的任务则交给稠密算力服务器。这种合理分配有助于提高整体计算效率。

稀疏算力和稠密算力之间存在转换关系。通过调整任务优先级、复杂度或采用动态调度算法等手段，可以实现它们之间的转换。在云计算平台中，根据用户需求变化，系统可动态调整服务器算力分配，实现稀疏算力和稠密算力的灵活转换。

在标准中采用稠密算力方式进行评估的必要性。相对于稀疏算力，稠密算力更具有普适性，避免了准确度下降的问题，同时可以更好地满足计算准确度的要求。

注意，实际芯片对于不同数据类型的性能差异。虽然INT4、FP32等数据类型各有优势，但INT8数据类型更被广泛采用，因为它在效率和泛用性方面取得了平衡。为了规范业内智驾芯片的算力对比，采用INT8稠密算力为代表，并通过明确的标准来兼顾其他量化精度类型，避免了算力虚标和对比条件不统一造成的问题。

Part 2

智能驾驶场景AI性能评价

智能驾驶芯片性能不仅取决于硬件算力数值，还与软硬件协同后的实际能力相关。在特定智能驾驶场景下，车辆是否能够达到较高的芯片使用效率至关重要。

我们需要注意推理吞吐率（FPS）的重要性，AI推理性能需要了解评估这一性能的指标，时延（Latency）和吞吐量（Throughput）是常用于衡量AI推理程序性能的两个重要指标。

● 时延： 衡量处理单个单位数据的速度，即单一事件的处理速度。

● 吞吐量： 衡量在单位时间内处理的数据量，即整个系统处理事件的效率。

时延评估的是单一事件的处理速度，吞吐量评估的是整个系统处理事件的效率。时延高低与吞吐量大小有关系，但二者不是直接的线性关系，评价性能时，需要同时关注时延和吞吐量这两个指标。采用推理吞吐率（FPS）作为主要评价方法，因为它更能反映车载智能芯片的真实计算性能。为了真实反映整体处理性能，可以选择智能驾驶场景中最典型的模型进行性能测试。

Part 3

兼顾AI性能和

整体端到端数据流处理能力

AI计算单元虽然是智能驾驶系统中的主要处理单元，但整个芯片平台的性能发挥需要各部分协同工作。车企在选择智能驾驶芯片时需要综合考虑多个因素，包括算力和算效、适配性、软件开发难度、车规级安全认证等级、灵活性和能效比等指标。实际上我们需要关注维度及安全性和效率：

● 整体端到端数据流处理能力和智驾体验：强调了这是最靠近整车厂最终需求的智能驾驶计算芯片评价指标。兼顾AI性能和整体端到端数据流整体处理能力，同时关注整体智驾体验，才能更好地满足实际采购和使用中的需求。

● 功能安全的考虑：在信息安全和车辆安全的基础上，标准明确指出关注功能安全。这包括支持国密认证、安全启动、硬件加解压等功能，以满足智能驾驶计算芯片对相关能力的要求。

总体而言，这个标准为评估智能驾驶计算芯片提供了详尽的规范，强调了多个维度的性能评价，确保业内各种智驾芯片能够在统一的标准下进行对比，最终提高整个智能驾驶产业的发展水平。