Uber 无人车事故调查落幕:一场“人为”惨剧

发布者:纸扇轻摇最新更新时间:2019-11-11 来源: TopMove关键字:Uber  自动驾驶  自动驾驶测试  NTSB  距离碰撞 手机看文章 扫描二维码
随时随地手机看文章

去年,Uber 无人驾驶测试车酿成的致死事故对整个行业的发展造成了不小的负面影响,在资本市场不景气的情况下,明显能感觉到自动驾驶领域的投融资规模缩紧不少。美国国家运输安全委员会(National Transportation Safety Board,简称 NTSB)经过初步调查后指出,由于 Uber 禁用了自动驾驶车辆的紧急制动系统,从而导致悲剧发生。


一年多的时间过去了,NTSB 近日发布了一份新的报告(下载地址:http://1t.click/aXhd),称「碰撞发生的五秒钟之前,雷达已经探测到了行人 Elaine Herzberg。」但不幸的是,一系列的软件设计缺陷使得系统在撞向行人的前 0.2 秒才作出反应,但一切为时已晚,事故不可避免地发生了。

2018 年 3月 发生在美国亚利桑那州坦佩市的 Uber 无人车致死案一度让整个行业陷入停滞 | ABC 电视台画面截图

2018 年 3月 发生在美国亚利桑那州坦佩市的 Uber 无人车致死案一度让整个行业陷入停滞 | ABC 电视台画面截图


这次无人车撞人事件去年五月发生在亚利桑那州的坦佩市,NTSB 的初期调查显示,距碰撞发生还有 1.3 秒时,Uber 测试车辆的自动驾驶系统决定需要紧急制动提供辅助,但 Uber 却禁用了测试车辆(Volvo XC90)的该项功能。Uber 给出的理由是:当时车辆由车载计算机操控,这样做的目的是为了降低车辆出现难以预测行为的可能性。


很明显,Uber 自动驾驶测试车的硬件并没有出现问题,恰恰是设计存在缺陷的软件导致了这起致死事故的发生。在这份 NTSB 的新结案报告中,它探寻了 Uber 无人驾驶系统软件工作状态的详细信息,并解释了酿成事故的重要原因。

追悔莫及

和绝大多数公司开发的软件类似,Uber 的自动驾驶系统遵循的也是「感知-决策-控制」的流程,先通过外部传感器对识别的目标进行分类,继而通过计算平台决策出合理的行驶路线,最后执行输出的命令。只不过 Uber 的这套系统在坦佩市翻了个严重的错误。

Uber 自动驾驶测试车硬件搭载外部视图 | NTSB 官方文件

Uber 自动驾驶测试车硬件搭载外部视图 | NTSB 官方文件


NTSB 在报告中详细地给出了精确到秒的时间线,以说明 Uber 自动驾驶系统的软件在车辆不断靠近行人的过程中是如何思考的。当时 Elaine Herzberg 正推着自行车横穿一条多车道的马路,而她并没有遵守交通规则,沿着人行横道通过。


-- 距离碰撞还有 5.2 秒,系统将其判定为「其他」物体;


-- 距离碰撞还有 4.2 秒,Elaine 被识别为「车辆」;


-- 碰撞前 2.7~3.8 秒,系统对 Elaine 的识别结果在「车辆」和「其他」之前摇摆不定;


-- 距离碰撞还有 2.6 秒,系统将 Elaine 和她的自行车识别为「自行车」;


-- 距离碰撞 1.5 秒,Elaine 被系统识别为「未知」;


-- 距离碰撞 1.2 秒,她又变成了「自行车」。


-- 距离碰撞还有 4.2 秒,Elaine 被识别为「车辆」;


-- 碰撞前 2.7~3.8 秒,系统对 Elaine 的识别结果在「车辆」和「其他」之前摇摆不定;


-- 距离碰撞还有 2.6 秒,系统将 Elaine 和她的自行车识别为「自行车」;


-- 距离碰撞 1.5 秒,Elaine 被系统识别为「未知」;


-- 距离碰撞 1.2 秒,她又变成了「自行车」。


从这些描述中可以得到两点重要信息:


一、 在任何时间节点,系统都没有将 Elaine Herzberg 判定为「行人」。NTSB 表示,「软件系统设计中并没有考虑到不守规则、横闯马路的行人。」


二、 频繁更改对 Elaine Herzberg 识别的结果导致 Uber 的自动驾驶系统无法准确地计算出它的行驶轨迹,同时也没有意识到她处在与车辆碰撞的路线中。按理说,无人车在识别到有物体进入它的行驶路线之后,即便不确定这个物体是什么也应该主动进行刹车。然而 Uber 的软件设计逻辑并非如此。


二、 频繁更改对 Elaine Herzberg 识别的结果导致 Uber 的自动驾驶系统无法准确地计算出它的行驶轨迹,同时也没有意识到她处在与车辆碰撞的路线中。按理说,无人车在识别到有物体进入它的行驶路线之后,即便不确定这个物体是什么也应该主动进行刹车。然而 Uber 的软件设计逻辑并非如此。


在探测到目标物之后,系统通过物体之前的位置来推算出其速度以及可能的行动轨迹。「然而,假设感知系统对目标物的识别结果改变后,相应的对它行动轨迹的推测也会重新来过。」NTSB 报告指出。


所以实际来看,由于系统无法将 Elaine Herzberg 和她的自行车进行分类,因此假设其处于静止状态。这个结论从 NTSB 精确至秒的分析中也不难发现。

事故现场鸟瞰图。通过标注可以清晰地看到碰撞前 Uber 无人车与行人的相对距离 | 官方文件截图

事故现场鸟瞰图。通过标注可以清晰地看到碰撞前 Uber 无人车与行人的相对距离 | 官方文件截图


距离碰撞 4.2 秒~5.2 秒这个区间,Uber 的自动驾驶系统将 Elaine 识别为「车辆」并认为其是静止的,因此不会进入到车辆的行驶路线中。而很快系统又判定其正在移动,但会保持在其现有的车道内。可怕的是,当距离碰撞只有 2.6 秒的时候,系统才将其识别为「自行车」但依然认定其会保持在自己的车道内,这样的错误其实只要通过对比 Elaine 之前的位置数据就可以得到纠正。距离碰撞还有 1.5 秒,Elaine 开始变成「未知」,在机器的眼里她依然静止。


最后,碰撞发生前的 1.2 秒,在 Elaine 开始进入 Uber 测试车辆的行驶轨迹时,系统才意识到这场碰撞已「无法避免」。

躲不开的人祸?

在此前公布的行车记录仪视频中,肇事车辆的安全员当时视线并未看向前方,但当事人表示「自己并不是在玩手机,而是在监控自动驾驶系统的运行情况」。可能大家都存在这样的疑问:即便当时碰撞已经无法避免,但假设系统能够采取紧急刹车的措施,将车速降下来或许能够救回 Herzberg 女士一条命。不过这样的事情没有发生呢?

碰撞前行车记录仪记录的画面显示,安全员处于惊慌状态,没有及时做出应对措施 | 视频截图

碰撞前行车记录仪记录的画面显示,安全员处于惊慌状态,没有及时做出应对措施 | 视频截图


NTSB 这样解释道:「当自动驾驶系统监测到紧急情况时,它会立即执行相应的行动抑制(action suppression)。通常这个过程只有一秒钟,系统会及时发起刹车指令、重新计算规划其他可行的路线或者由随车的安全员进行相应的处理工作。」


但根据 Uber 方面提供的信息,距碰撞发生还有 1.3 秒时,Uber 测试车辆的自动驾驶系统决定需要紧急制动提供辅助,但 Uber 却禁用了测试车辆(Volvo XC90)的该项功能。它给出的理由是:当时车辆由车载计算机操控,这样做的目的是为了降低车辆因错误的警报出现难以预测行为的可能性。


所以,在距碰撞发生不足 1 秒时,驾驶员才试图操控方向盘来躲避行人,在碰撞发生后不到 1 秒的时间内才开始踩下刹车,但一切为时已晚。


据 NTSB 这份最终的调查报告称,即便已经错过了最后一秒钟可以挽回的时机,Uber 的自动驾驶系统也并没有用全力刹车。对一场本来就无法避免的车祸而言,系统到最后都没有尽全力采取措施,而此时车上的安全员也形同虚设,「安全」两个字倒显得有些讽刺。


2018 年,Business Insider 的记者 Julie Bort 在报道中曾对 Uber 为何执行如此的软件设计策略进行了分析和推测。她指出,「当时团队正在为 Uber 新上任的 CEO 达拉·科斯罗萨西准备试乘演示。高层要求工程师们设法改善之前出现的一些「不好的体验」。很快,Uber 就宣布禁用了车辆的自动紧急制动系统,保证了像急刹车或者急转向这种令乘坐者不适的现象再也不会出现。」


只不过急转向的功能最后又被重启,但自动紧急制动系统依然被禁用着,直到 2018 年 3 月那场致死车祸的发生。

Uber 基于沃尔沃 XC90 车型改装的自动驾驶测试车搭载的传感器配置图 | 官方文件截图

Uber 基于沃尔沃 XC90 车型改装的自动驾驶测试车搭载的传感器配置图 | 官方文件截图


Uber 的自动驾驶测试车队都是由沃尔沃 XC90 车型改装而成的,本身自带了精密的紧急制动系统。不幸的是,Uber 擅自决定在自动驾驶系统开启时将 XC90 的防碰撞功能关闭。其中一个原因,据 NTSB 透露称,是因为 Uber 安装的尚处于试验阶段的雷达传感器使用了和沃尔沃自带雷达相同的频率,有产生互相干扰的风险。


而自从事故发生后,Uber 已经重新对其后装的雷达系统进行了重新设计,以便在不同的频率能够保持正常工作。此外,Uber 也开始允许在测试其自动驾驶技术时,将沃尔沃本身自带的防碰撞系统设置于开启状态。


就软件设计存在的缺陷,Uber 也表示对其中不合理的地方进行了修正。首先,紧急事件发生时,刹车前不再设置一个「行为抑制」的缓冲时间;其次,进行目标物监测时,假设系统对目标物的分类发生变化时,不会将其过往的位置数据丢弃,试图从根本上杜绝这类事件的再次发生。

亡羊补牢

这其实并不是 Uber 无人车第一次闯祸。


根据 NTSB 提交的调查报告显示,在坦佩市发生撞人事件之前,2016 年 9 月至 2018 年 3 月之间,Uber 的自动驾驶测试车辆造成过 37 次碰撞,其中有两次是撞车事故。另外还有 25 起追尾,剩下 8 起则是剐蹭事故。在 NTSB 看来,一方面是自动驾驶软件系统设计存在缺陷,另一方面 Uber 并没有制定完备的安全计划。尽管该公司设有专门的安全团队,但缺乏安全指导文件且无安全运营部门。Uber 承认其在这次严重人身事故发生前并没有制备完善的安全计划,直到 2018 年 11 月才发布了第一份安全报告。

这是一个开发安全无人驾驶车辆的通用框架,涵盖了自动驾驶系统测试以及功能安全等在内的折叠步骤图,点击可以看到 Uber 在车辆安全测试上的步骤及细节 | 官方网站截图

这是一个开发安全无人驾驶车辆的通用框架,涵盖了自动驾驶系统测试以及功能安全等在内的折叠步骤图,点击可以看到 Uber 在车辆安全测试上的步骤及细节 | 官方网站截图


前不久,Uber 成立了自动驾驶安全与责任咨询委员会(SARA),关注这项技术在面向大众过程中产生的潜在危险。此外,今年 7 月中旬,Uber 还公布了业界第一个自动驾驶汽车安全框架,涵盖了自动驾驶系统测试以及功能安全等在内的多个安全环节,通过折叠框架图的形式展现出 Uber 在车辆安全测试上的细节。


事故之后,Uber 或许对自动驾驶有了新的思考,而无论是自身安全机制的持续改善还是增设外部审查机构避免矫枉过正,这些近似亡羊补牢之举对整个行业朝着正确的方向推进,大有裨益。


2018 年底,Uber 自动驾驶测试重启。在一篇官方发布的博客文章里,Uber 高级技术部门(Advanced Technology Group,简称 ATG)埃里克·梅霍夫(Eric Meyhofer)详细介绍了 Uber 新实施的安全保障措施,例如针对安全手动驾驶和监控系统的培训计划,该系统可在驾驶员将视线移开道路时发出提醒。「我们花了几个月的时间在封闭道路上测试,并完成了漫长的内部审查。」梅霍夫强调称。


Waymo 自动驾驶测试正逐步进入真正「无人」阶段,无疑它同样面临着很大的安全风险。而进行到这个阶段,技术已经不再是桎梏自动驾驶迈向商业化量产的单一因素,技术之外似乎要更关注有关「人」的问题。强调安全怎么都不为过。


关键字:Uber  自动驾驶  自动驾驶测试  NTSB  距离碰撞 引用地址:Uber 无人车事故调查落幕:一场“人为”惨剧

上一篇:Uber自动驾驶撞人案细节 撞击前5.6秒发现行人 未正确识别
下一篇:纯电动车安全性仍是重点问题,BMS 中有何重任?

推荐阅读最新更新时间:2024-11-02 09:20

5块4K显示器!索尼黑科技无人车亮相
随着人工智能技术的发展,几乎所有的一线车企就在研发无人驾驶汽车,或许不久只有就会成为大趋势,最终完全取代人工司机。   近日,索尼也公布了旗下最新的SC-1自动驾驶概念车。据悉,该车融合了索尼的很多最新技术,包括高解析度相机、4K屏幕、雷达、超声波传感器、替代性燃料、人工智能、5G技术的产品。   据了解,该车三维尺寸为3140/1310/1850mm,车内定员3人,最高行驶速度19km/h,可选择人工或自动驾驶。   索尼SC-1可以靠影响传感器来观察周围环境,所以就用高分辨率显示器替代了透明车窗。车内配备49英寸4K液晶屏幕一台,车外配备55英寸4K液晶屏幕4台。   此外,SC-1还可以不开车灯在夜间行驶,甚至识别车外路人的
[汽车电子]
Uber再次陷入麻烦,为何强奸/性攻击/性别暴力/骚扰屡禁不止
打车服务公司 Uber 又惹上了新官司。   在一起新的集体诉讼案中,两名不愿透露姓名的女性代表“在过去四年中遭受Uber 司机 强奸、性攻击或性别暴力或骚扰的所有美国乘客”,要求法院强迫这家估值690亿美元的打车服务公司改变其司机审查制度和其他业务实践。   除了要求补偿这些被强奸的女性乘客外,这两名女性还要求法官发布针对Uber的指令,强迫该公司对其司机执行严格的背景审查。   这两名女性声称她们遭到了Uber司机的攻击,并声称该公司存在非法和“欺诈”行为,使得她们误以为可以相信Uber司机可以安全地接送她们。她们还声称,该公司并没有如实地陈述搭载Uber汽车的安全性。   “由于Uber未能有效审查其司机的背景,结果对原告的
[嵌入式]
谷歌的量子霸权将如何影响自动驾驶车辆?
据称,谷歌研发人员在经过不懈努力后终于实现了所谓的“量子霸权”技术,最近的这条消息令人们兴奋不已,因为该技术受到了人们的热烈追捧。 尽管谷歌通过其研究及付出为“量子霸权”摇旗呐喊,但并非所有人都认同这一点。 当然,这并不是说谷歌采用了 54 量子比特(54-qubit)的 Sycamore 处理器这一事件的意义不显著。恰恰相反,事实上,该处理器在助力实现可行的量子运行方面迈进了一大步,但量子计算机当前的水平能否当得起“真正意义上的霸主地位”的头衔呢?许多人认为这还有待商榷,毕竟该技术水平尚不成熟,“霸权”一词的使用方面也存在极大的争议。 首先,让我们先了解下量子计算机的构成及其令人惊叹之处,然后再探讨“霸权”这一用词的
[汽车电子]
透过特斯拉自动驾驶传感器以及芯片看其高利润秘诀
最近特斯拉在汽车圈又刷了一波流量,例如新闻标题“一辆特斯拉赚十万””利润暴涨658%“等。其实这背后信息是特斯拉发布了2022 年第一季度,特斯拉总收入达 187.6 亿美元,同比增长 81%。毛利率为 29.1%,营业利润率为 19.2%,均创下有史以来新高,羡慕嫉妒啊。 本着Vehicle不做吃瓜群众的精神,所以也去查看了下,到底特斯拉为啥现在这么盈利?正好看到一篇system Plus consulting的分析介绍特斯拉自动驾驶系统零部件的文章。而作为智能汽车,自动驾驶的传感器以及域控制器不言而喻占用成本非常高,例如我们之前文章从2022 CES 看Mobileye 自动驾驶产品技术以及战略(谁说算力是唯一标准)中透露
[汽车电子]
透过特斯拉<font color='red'>自动驾驶</font>传感器以及芯片看其高利润秘诀
特斯拉自动驾驶一言不合撞警车?
产能不足、连环车祸,电动车厂商特斯拉近日麻烦不断。29日,一辆开启特斯拉自动驾驶Autopilot功能的特斯拉Model S在美国加州Laguna Beach市撞上一辆停靠在路边的警车,这是今年以来在美国,因开启自动驾驶功能而发生的第三起特斯拉严重车祸。 从车祸现场图片来看,撞击十分严重。特斯拉Model S的车头几乎完全变形,而被撞的停靠在路边的警车车身右侧甚至被顶上了马路沿,车身后部损毁明显,且有汽油渗漏。据当地警方称,这辆被撞的警车已经报废,所幸撞击发生时,警车上并没有任何人员,而特斯拉的驾驶员仅受到轻伤。 这已经是今年以来在美国发生的第三起因特斯拉自动驾驶功能开启时发生的严重车祸。本月初,在美国犹他州,一辆正在自动驾驶的
[汽车电子]
苹果将与富士康联合起来做智能电动汽车?
最近苹果造车的事情,从 2015 年第一波到又开始了,我是这么判断的,如下图所言,这一波电动汽车的发展使得整车企业的门槛被拉低了。苹果的竞争优势最大的是在自动驾驶和车载 iOS 上可以深度投入,从时间点来看,明显路透社透露的 2024/2025 年更靠谱。这回是一款基于自动驾驶开发的设计感很强的电动汽车,至于怎么造其实和之前富士康发布的电动底盘模式有意思的耦合。从之前台湾媒体的爆料,更像是一场在核心部件上做技术突破的尝试。我个人觉得这种基于整车核心系统开发,自动驾驶和座舱 IOS 生态整合的模式是和电动汽车代工、平台化底盘分不开的。两家是可能和目前的手机制造一样走在一起的。 01、苹果什么时候造车?怎么造车?
[嵌入式]
苹果将与富士康联合起来做智能电动汽车?
LeddarTech推出新型固态激光雷达 提高自动驾驶汽车探测能力
据外媒报道,激光雷达技术行业领导者LeddarTech宣布推出一款专为自动驾驶汽车设计的3D Flash激光雷达 - Leddar™ Pixell。LeddarTech一直致力于为市场提供最通用且可扩展的汽车和移动出行激光雷达平台。 (图片来源:LeddarTech) Leddar™ Pixell在探测车辆周围行人、骑自行车的人以及其他障碍物方面可靠性非常高,适用于为确保乘客和弱势道路使用者(VRU)的安全而研发的感知平台。该激光雷达是一种最佳的探测Cocoon(车身周围360°全包覆)解决方案,适用于自动驾驶部署,而且已经被北美和欧洲地区的十几家领先的自动驾驶汽车供应商采用。 Leddar™ Pixell的主要优点
[汽车电子]
LeddarTech推出新型固态激光雷达 提高<font color='red'>自动驾驶</font>汽车探测能力
将不确定性感知和姿态回归结合用于自动驾驶车辆定位
主要内容: 论文研究了机器人和自动驾驶车辆应用中的基于神经网络的相机重定位问题,其解决方案是一种基于CNN的算法直接从单个图像预测相机姿态(3D平移和3D旋转),同时网络提供姿势的不确定性估计,姿态和不确定性与单个损失函数一起训练,并在实际测试时与EKF融合,为此提出了一种新的全卷积架构,名为CoordiNet,其中嵌入了一些场景几何结构。 Contributions: 提出了一种联合训练姿态估计和不确定性的方法,其具有可靠的不确定性估计和改进的训练稳定性。 提出一种新的全卷积架构,它集成了几何线索,并在所有公共基准上以较大的优势优于单目最先进的方法。 在几个大规模数据集上对几种深度姿态回归器进行了广泛的评估,表明论文提出
[嵌入式]
将不确定性感知和姿态回归结合用于<font color='red'>自动驾驶</font>车辆定位
热门资源推荐
热门放大器推荐
小广播
最新汽车电子文章
换一换 更多 相关热搜器件

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved