主流的自动驾驶方案都不安全？这个团队4小时内发现561个关键安全故障

自动驾驶安全不？近日有研究团队研究表明：自动驾驶不安全。

伊利诺伊大学香槟分校的一个研究团队在分析了自动驾驶公司 2014 年至 2017 年提交的所有安全报告（涵盖 144 辆自动驾驶汽车，累计行驶 1116605 英里）后，得出一个截然相反的结论：在行驶相同里程的情况下，自动驾驶汽车发生事故的可能性是人类驾驶汽车的 4000 倍。这个研究团队开发的一种针对自动驾驶的故障评估技术，在对百度 Apollo 3．0 和英伟达专有自动驾驶系统 DriveAV 的测试中，短短 4 小时就发现了 561 个关键安全故障！

这个研究团队致力于使用人工智能和机器学习，通过软件和硬件的改进来提高自动驾驶技术的安全性。

“由于车辆电气和机械组件的复杂性，以及天气、路况、地形、交通模式和照明等外部条件的变化，使用 AI 来改进自动驾驶车辆非常困难。”伊利诺伊大学 CSL 实验室教授 RavishankarK.Iyer 说，“目前我们正在取得进展，但安全仍是一个重大问题。”

研究小组目前正在开发技术和工具，从而找到影响自动驾驶车辆安全的驾驶条件和问题。使用他们的技术，可以找到大量的至关安全的场景，在这些场景中，一个小小的错误就可能酿成大祸。如此一来节省了大量的时间和金钱。

在对百度 Apollo3.0 和英伟达 DriveAV 的测试中，该团队所开发的故障注入引擎 DriveFI 在 4 小时内发现了 500 多个该软问题。

这样的发现让这个团队的工作得到了业内的关注。该团队正在为他们的测试技术申请专利，并计划很快进行部署。理想情况下，研究人员希望公司使用这项新技术来模拟已发现的问题，并在部署汽车之前解决问题。自动驾驶事故可能性比人驾驶高 4000 倍，安全评估面临挑战

“我们团队正在应对一些挑战，”领导该项目的计算机科学博士生 SaurabhJha 说。“解决这一挑战需要跨越科学、技术和制造的多学科努力。”

为什么这项工作挑战性很大？因为自动驾驶是使用 AI 和机器学习来集成机械、电子和计算技术以做出实时驾驶决策的复杂系统。典型的自动驾驶系统就像放在轮子上的微型超级计算机；拥有 50 多个处理器和加速器，运行着超过 1 亿行代码，来支持计算机视觉、规划和其他机器学习任务。

这些车辆的传感器和自动驾驶堆栈(计算软件和硬件)有可能存在问题。当一辆汽车以每小时 70 英里的速度在高速公路上行驶时，故障对司机来说可能是一个重大的安全隐患。

“如果一辆普通汽车的驾驶员感觉到诸如车辆漂移或拉力之类的问题，他 / 她可以调整自己的行为并将车辆引导到一个安全的停车点。”Jha 解释说：“然而，在这种情况下，除非自动驾驶汽车针对这些问题进行了训练，否则自动驾驶汽车会如何应对是不可预测的。在现实世界中，这样的例子数不胜数。”

多数人在电脑或智能手机上遇到软件问题时，最常见的反应是关机重启。然而，此方法不建议用于自动驾驶汽车，因为耽误的每一毫秒都会影响结果，而响应稍慢一点就可能会导致死亡。在过去的几年里，由于自动驾驶引发的各种事故，人们对这种基于人工智能的系统的安全担忧不断增加。

“现行法规要求 Uber 和 Waymo 等在公共道路上测试无人车的公司，每年要向加州车辆管理局(DMV)汇报其车辆的安全性，”CSL 和计算机科学专业的研究生 SubhoBanerjee 说。“我们想了解常见的安全问题有哪些，汽车的性能如何，以及理想的安全标准是什么，以了解自动驾驶系统的设计是否足够好。”