给一台机器或“自主驾驶车辆”(AVs)编程,让它以道德原则为基础来做决策,目前要做到这一点并不难,难的是道德标准的考量,应该把自我利益还是公共利益放在首位?
关键字:无人驾驶 谷歌 自动驾驶
引用地址:无人汽车陷入道德窘境,关键时候抛弃车主?
在道路安全问题上,自主驾驶车辆(简称,自主车辆)给人们抛出了一个两难之选。自主车辆包括无人驾驶的汽车、货车、巴士等,如果用交通规则给这些自主车辆编程,很容易出现规则之间互相矛盾的情景:车前面前突然出现一个行人,它要么撞上行人,要么突然急转弯,急转弯的话它又会撞上路障导致车祸,伤害车上的乘客,这种情况下应该给它什么指令?
去年6月到11月,美国麻省理工学院和俄勒冈大学研究人员合作,对这方面问题专门做了一项调查,结果却发现公众的观点是互相矛盾的,而这种明显分歧可能真会出现在生活中。研究论文发表在最近出版的《科学》杂志上。
道德标准遭遇社会困境
在一系列调查中,研究人员发现,人们对自主车辆的道德标准通常采取一种“实用主义”的态度:在极端危险情况下,人们倾向于选择使事故伤亡最小的做法。这意味着如果车上有10个乘客只有1个行人,它可能撞上行人;如果车上只有1个乘客而对面有10个行人,它就会急转弯撞毁自己。参与调查的受访者同时又表示,真有如此编程的一辆自动驾驶车,他们自己并不想坐上去。基本来说,人们想要的自主车是对行人尽可能地友好——但他们自己乘坐的那辆除外。
论文作者之一、麻省理工学院媒体实验室副教授亚德·莱万说:“大部分人想要的情况是,自主车能尽量减少伤亡,但每个人又都希望他们坐的那辆自主车辆能不计代价地保护自己。”这种结果就是所谓的“社会困境”:最终每个人都只按自己的利益行事,从而让其他人变得更不安全。“如果每个人都这么做,结果会成为一场悲剧——汽车不会减少伤亡。”
研究人员指出,就目前来说,要想设计一种算法来调和道德价值和个人的自我利益,是很不容易的。
调查结果彰显民意矛盾
利用一种“亚马逊机器人塔克”(Amazon Mechanical Turk)的网上民意调查工具,研究人员进行了6次调查。每次结果都一致显示,人们更看重能挽救的生命的总体数量。76%的被调查者认为,对自主车辆而言这样更道德,如果车上只有1个乘客而行人有10个的话,则牺牲那1个乘客更为道德。
但调查结果还显示,如果一辆自动驾驶汽车真的这样编程,牺牲乘客利益而保护行人,很少有人愿意买这种车。问卷中有一项是让人们对一辆会牺牲自己的乘客而保护10个行人的自动驾驶汽车评分,当被调查者考虑到自己可能坐在这辆车上,给它的评分顿时下降了1/3。
如果让政府来管理无人驾驶汽车,确保按实用主义原则给它编程的话,这种设想同样遭到人们的反对。在调查中,人们买这种受管理的车的可能性只有1/3,而同时他们又反对不受管理的、假定能以任意方式编程的车。
看来尚需实践经验指导
大规模采用自主车辆的总体效果如何,尚不能确定。但人们基本上都同意,自主车辆能减少交通事故,要定义帮自主车辆做道德决策的算法,无疑是个艰难的挑战。
研究人员认为,这项调查从可能出现的道德利益的角度,为人们提供了有益参考。他们也承认在这个问题上,公众的认识还处在一种早期阶段,即随着自主车辆的发展演变,目前得出的任何结论“不保证长期以后还是这样”。
莱万说:“这个问题不仅需要从理论上探讨,重要的是还需要在实践中探讨。”
论文中强调,这是一个挑战,任何汽车制造商和管理者都应记住这一点。此外,如果自主车辆经证明比接受政府管控更安全,强制实施实用主义算法可能导致矛盾的结果,即出于对管理的担忧而推迟采用更安全的技术,反而增加了伤亡。
谷歌自动驾驶汽车最终样机
上一篇:无人机再次闯祸,居然将人砸晕
下一篇:出门享受总统待遇,无人机为你撑伞
推荐阅读最新更新时间:2024-05-03 00:30
韩媒报道称三星将为Waymo开发自动驾驶芯片
韩国媒体3月15日报道称,三星电子近日与谷歌母公司Alphabet旗下的自动驾驶部门Waymo达成合作,将为后者的下一代自动驾驶汽车开发芯片。 (图片来源:Waymo) 韩国媒体援引一位未透露身份的业内人士的消息称,三星将开发一种芯片,该芯片可以计算自动驾驶汽车上安装的各种传感器所收集的数据,或是通过与谷歌数据中心实时交换信息,从而集中控制车辆功能。报道还补充称,预计该项目将由三星逻辑芯片开发部门执行。 Waymo是全球众多自动驾驶技术研究企业之一,被视为是自动驾驶行业领先者,并且已经开始在亚利桑那州钱德勒市(Chandler)提供小规模自动驾驶打车服务。此前,该公司安全研究总监Trent Victor曾表示:“我们相
[汽车电子]
谷歌炮轰欧盟24亿欧元罚款:毫无道理
谷歌 公司在今年6月份被 欧盟 处以创纪录的24亿欧元(约合28亿美元) 罚款 。周一,谷歌对此炮轰欧盟,认为欧盟的罚款基于未经检验的 反垄断 理论,忽视了亚马逊公司、eBay公司等公司的竞争压力。 周一,谷歌在欧盟普通法院对欧盟委员会处罚决定的上诉细节在欧盟公报上公布。谷歌称,鉴于欧盟委员会提出的是一套新奇理论,并且一开始寻求与公司友好协商解决此案,释放出本案或无需使用经济处罚手段即可解决的信号,所以罚款“毫无道理”。 谷歌还在上诉中称,欧盟在判定谷歌滥用市场支配地位排挤小型购物搜索对手,并作出处罚决定时,并未适当考虑其他商业平台施加的竞争压力。 在这场公司史上最大监管战役中败下阵来后,谷歌在今年9月份正式向欧盟普通
[嵌入式]
谷歌或对Honeycomb系统平板电脑无CPU限制
据国外媒体报道,自Android 3.0发布以来,一直有传言指出谷歌对使用Honeycomb操作系统的设备硬件有所限制。
在西班牙阿利坎特举行的IFA全球媒体发布会上,Hannspree的产品经理Jordon Popov解释了为什么公司年内发布的3款平板电脑只有1款使用谷歌平板电脑软件的原因。他表示,“谷歌在没有正式公开发布Honeycomb之前,确实对其载体有所要求,其中2项要求是屏幕分辨率1280 x800,同时具备前后端摄像头。”
最初,有传闻认为谷歌可能要求具有双核CPU或者Tegra 2 SoC,但是近日Android开源及兼容性技术巨头Dan Morrill指出,“事实上,谷歌对Hone
[手机便携]
使用BLDC电机助力机械扫描激光雷达实现360度视场
我们都知道驾驶汽车时看清路面至关重要。而在实施自动驾驶等技术时,对这点要求得更为严格。 自动驾驶汽车的“眼睛”被称为光检测和测距(激光雷达)技术 ,可提供汽车周围环境的精确图像。激光雷达使用光源和传感器来检测物体。 激光雷达系统的视场 (FOV) 决定了激光雷达能够捕捉到的图像的宽度,因此该视场对于自动驾驶决策算法十分重要。扩大FOV的方法有很多种,其中之一就是利用机械扫描,使用电机帮助实现360度FOV。无刷直流 (BLDC) 电机可以实现此目标,且高效低噪,因此广受欢迎。 图1展示了激光雷达模块,图2展示了配备激光雷达的自动驾驶汽车。 图1:激光雷达模块 图2:配备激光雷达的自动驾驶汽车 配备机械扫描激
[汽车电子]
谷歌AI负责人Jeff Dean:一文回顾谷歌2018技术进展
1月15日,谷歌高级研究员、谷歌AI负责人Jeff Dean发表了博文,回顾总结了2018年谷歌的技术研究进展。 Jeff Dean从谷歌的人工智能、量子计算、感知技术、算法理论、AutoML、机器人以及TPU等多个技术层面,系统地还原了谷歌AI的2018。 众所周知,在去年一整年,谷歌遭遇了诸多危机,尤其是不作恶的原则受到内外的质疑。Jeff Dean博客中首要提到的便是谷歌的道德原则和AI。 道德原则和人工智能 今年,我们发布了Google AI原则,但是,由于AI的发展非常迅速,AI原则中诸如“避免制造或加强不公平的偏见”、“对人民负责”等也在不断变化和改进。 其中,机器学习公平性和模型可解释性等领域的新研究,正反向推
[机器人]
如何设计ADAS系统功能状态机(二)
1.定义状态 状态定义:明确定义系统中的状态,确保每个状态都是清晰且互斥的。每个状态应该具有明确的含义和行为。 不同的自动驾驶功能可能具有不同的状态机,状态的定义是由功能决定的,系统需要在不同的条件下正确地执行相应的行为和功能。同时,状态机的设计原理也应该为系统的扩展和维护提供了便利,使得系统能够适应不断变化的需求和环境;比如在NOP功能设计时,应考虑到如何与LCC/ACC等功能进行切换。 L0的ADAS功能,比如FCW/LDW/BSD等等基本不涉及车辆控制,仅起到预警作用。其状态定义也较为简单,可以分为以下几个状态: OFF:系统关闭,未进行工作。 Standby:系统满足运行条件,正在待机。 Warning:符合预
[嵌入式]
英特尔旗下Mobileye发布上市后首份财报:第三季度营收4.5亿美元
北京时间12月7日晚间消息,英特尔公司旗下自动驾驶部门Mobileye(Nasdaq:MBLY)今日发布了2022年第三季度财报,这也是该公司自10月份上市以来的首份财报。财报显示,Mobileye第三季度营收为4.50亿美元,同比增长38%。净亏损4500万美元,同比增亏73%。不按美国通用会计准则(Non-GAAP),净利润为1.14亿美元,同比增长7%。 第三季度业绩: 营收为4.50亿美元,与2021年同期的3.26亿美元相比增长38%。 毛利润为2.17亿美元,与2021年同期的1.53亿美元相比增长42%。毛利率为48%,而2021年同期为47%。不按美国通用会计准则,毛利润为3.32亿美元,与20
[汽车电子]
何小鹏:小鹏汽车有望在 2025 年实现真正自动驾驶
IT之家8 月 2 日消息,今日上午,阿里云通过官方微博宣布,基于阿里云智能计算平台, 小鹏汽车 在乌兰察布建成国内最大的 自动驾驶 智算中心“扶摇”,专用于 自动驾驶 模型训练。 今日下午, 小鹏汽车 创始人、董事长 何小鹏 发微博称:“随着小鹏‘扶摇’智算中心的启动,对 自动驾驶 在模拟训练上的算力助推,相信在 2025 年 小鹏汽车 会开始将自动辅助驾驶的辅助两个字去掉,进入到真正的自动驾驶时代。” 何小鹏 认为,当下的任何一家智能汽车公司,将来智能化必须要自研,因此都会对算力提出非常高的要求,算力成本将会从今天的亿元级别上升到将来的十亿元级别。小鹏与阿里云在算法和算力上形成的强烈耦合,是一条必经之路。
[汽车电子]