阿西莫夫的机器人三定律和Mobileye的自动驾驶五原则

发布者:科技创客最新更新时间:2018-11-22 来源: 科技行者关键字:机器人  Mobileye  自动驾驶 手机看文章 扫描二维码
随时随地手机看文章

很多科幻小说作家的想象,最终在现实世界中得到了应验。



大师级科幻小说作家阿西莫夫有过一个思考,对于AI驱动的,除了应该不断提升机器本身的智力水平之外,让其更好用之外,在其和人类打交道的时候,还需要一个更宏观的,在技术至上的指导原则。他在短篇小说集《我,》中写了这样一组规则,称为“三定律”:

  1. 机器人不得伤害人类,或者不得置人类于危难中;

  2. 机器人必须服从人类的命令,除非与第一定律冲突;

  3. 机器人可以在不与第一、第二定律冲突情况下维护自身存在。

  1985年,阿西莫夫又出版了《机器人与帝国》,在书中他将三大法则扩张为四大法则,增加了第零法则:机器人不得伤害整体人类,或坐视整体人类受到伤害,构成更加完整的机器人四定律。

  虽然机器人三定律、四定律在很多有关于人工智能的电影和文学作品中屡屡出现,但也一直停留在想象阶段,并没有被实际应用过。一方面的原因,是在很长一段时间里,机器的智力水平还没有高到能和人类社会日常生活的息息相关;另外一个原因,则是由于阿西莫夫的原则只是简单的语言符号,并未构成严密的逻辑闭环。

  但这并不妨碍阿西莫夫的思考成为一种新学科“机械伦理学”的基础,一门以人类为中心,关于机器人的建造和使用的学科,其核心就是如何安全的应用智能机器。

  ,数据是基石,但并不是全部

  而公司,正在试图在领域,书写堪比机器人三定律,甚至更精确的规则。

  这个月的月初,至顶网(赛博故事母平台)拜访了,一家创立于 1999 年,总部位于以色列的高科技公司。该公司的主要业务为辅助驾驶系统和开发所需要的计算机视觉、机器学习、数据分析、定位与地图建模等技术。2017 年的 3 月,被英特尔公司斥资 153 亿美元收购,并与后者的自动驾驶事业部(ADG)合并,形成新的自动驾驶部门,由 Mobileye 联合创始人、董事长兼首席技术官阿姆侬·沙书亚(Amnon Shashua)教授领导。


  图注:Mobileye 联合创始人、董事长兼首席技术官阿姆侬·沙书亚教授

  很长时间以来,自动驾驶汽车的安全可靠性,一直被认为只和数据量密切相关。这是由于这一次由机器学习、深度学习带来人工智能浪潮的本质来是使用统计学方法对数据的利用,让机器通过“吃掉”海量的数据来总结模式和规律。只要数据足够多,也就是路测的里程足够长,自动驾驶汽车就会更安全。沙书亚在和我们交流中表示,在自动驾驶这件事上,“把任务完全交给统计学是不可行的”,不能只有数据训练,还要有一些常识原则,否则会面临极大的发展障碍。

  障碍之一在于经济性,“要让人类信任自动驾驶汽车,安全性至少要比人类司机好100倍。如果用统计学方法来实现,这就意味着1亿小时的路测,假设路测时每小时行驶30公里,路测的距离是30亿公里”, 沙书亚做了一个简单的计算来证明经济上的不可能性,毕竟30亿公里,相当于绕地球跑了7万圈还不止。

  障碍之二来自于黑箱问题,沙书亚认为统计学之上的AI “既不透明、也不公开”。现在的深度学习是基于数据的自动编程,一种方式成功了,我们知道它有效,但是我们不知道它为什么有效,反之,如果它失败了,我们也不知道它为什么失效,唯一能做的就是不断调整参数,加大数据量,试图让结果更尽如人意,但实际上我们对其“内在”一无所知。

  但对自动驾驶而言,透明是非常重要的。毕竟驾驶这件事太复杂了,涉及到社会安全,涉及到驾驶员、乘客、路人,以及涉及交通部门、汽车公司甚至保险公司等利益相关方。一旦车辆发生事故,我们却无法向涉事相关方解释缘由,也无法界定责任,进而很难让自动驾驶赢得社会信任。

  在自动驾驶汽车,很可能成为人类第一个要考虑如何与其安全相处的智能机器之际。Mobileye试图在统计学之上,增加一些人类可以理解的规则,发布了它RSS—— Responsibility Sensitive Safety模型,中文翻译为责任敏感安全模型。RSS中所制定的各种规则,正如同阿西莫夫的“机器人三定律”,其核心目的也是安全。

  RSS,机器可以读懂的数学安全“定律”

  在之前发表的由沙书亚教授参与撰写的论文“On a Formal Model of Safe and Scalable Self-driving Cars”中,和后续来自Mobileye公司的演讲说明中,我们得知RSS模型为实现这样的 “目标”而设定:

  1. 自动驾驶汽车本身不能导致事故(它可以是事故中的一方,但不是导致事故的一方);

  2. 自动驾驶汽车应该在其它车辆发生错误时(导致事故),做出正确反应,避免发生更严重的事故。如果用一句话来总结,就是自动驾驶汽车永远不应为一场事故负责。

  之所设立这个目标,可以理解为是要解决自动驾驶的可行性。不导致事故,就意味着自动架设汽车不会为事故承担责任,这在基础上卸下了监管部门、汽车公司的压力。

  但如果没有合理的方式,仅靠这句文字符号,无从保证自动驾驶汽车可以沿着这个目标迈进。所以自动驾驶汽车就需要能回答这样几个问题:1,什么是可能发生事故的危险情况;2,遇到问题时,什么是正确的反应;3,以及最后,也是非常重要的,既然自动驾驶汽车要避免成为导致事故的一方,那么如何认定事故中的责任方?(即如何避免成为责任方)

  为实现这些目的,在这篇论文中,RSS规定了这样五条基本常识性原则:

  1. 别追尾(追尾前车无责)。

  2. 别突然并道,导致后车追尾(这是前车责任)。

  3. 拥有“路权”,但别刻意争取路权。(英文是:right-of-way is given,not taken)。如果举例来说明,前车加塞,或许“可以不让路,但是为了保证安全,可以让速。

  4. 小心视觉盲区。

  5. 如果能避免事故又不会伤及他人,那一定要努力避免。

  需要注意的是,RSS并非只是看似简单的文字符号描述,而是由强大的数学逻辑来保证可实现,像下图这样的公式(关于安全车距),在论文中处处可见。沙书亚也强调,必须遵守基于三方面的原则对这些常识进行公式化,包括合理性、有效性和可验证性。而有了这些常识准则,自动架设汽车的决策系统,就可以避开单纯依靠统计学AI实现安全驾驶的低效性。


  自动驾驶汽车的监管、共识和价值

  毫无疑问,由于涉及社会公共安全,自动驾驶是政府一定会介入监管的领域。

  在我们走访Mobileye公司的过程中,发生了比较重要的新闻。Mobileye和大众宣布共同合作首个自动驾驶网约车服务(也称为出行即服务,MaaS)。沙书亚认为这个项目的重点在于,这是全球第一个由政府参与的自动驾驶MaaS项目。以色列政府承诺将为此成立专门的委员会,讨论监管壁垒、监管架构支持MaaS发展。

  对于自动驾驶汽车这样的新生事物,沙书亚认为监管的松紧程度是非常重要的。如果为了安全,过于看重监管,很可能一事无成。这方面来看,美国相对放松,欧洲则是重重监管,过松或者过严都会保证一事无成(过松导致事故频发让公众失去信心,过严则让产业毫无创新机会)。而以色列做了制度上的创新,由政府介入来确保项目在安全性和可行性的平衡,“做到了创新型监管(制度创新)”。

  在沙书亚眼中,新的技术要求,让政府法律的合理监管体系,和技术上的严密数学逻辑,组成了一门重要的新学科——“法规科学”(regulatory science),一门把法律和高等数学结合在一起的新学科,正如阿西莫夫催生了机械伦理学一样。沙书亚希望RSS不是Mobileye一家之言,而是成为全球自动驾驶产业的共识,作为一项“常识规则”,认同的人越多,安全性和可用性就越能得到保证。Mobileye现在正在同主机厂合作,同行业供应商合作(百度4个月前宣布将采用Mobileye的RSS模型),甚至同美国、中国等监管机构进行合作,来开展这样推动共识,协同创新的工作。


  同样发生在我们到达Mobileye之时,北京公交集团、北太智能也同时到访Mobileye,三方共同签署了谅解备忘录,建立合作伙伴关系。用北太智能的运营总监李华的话来说,“建立一个基础交通大数据的基础设施”。

  在以色列,我体会到了两种驾驶体验。

  第一次是自驾,以色列并非是一个司机开车循规蹈矩的国度,当我们一行人在异国他乡小心自驾时,时不时被后边响起的鸣笛声催促,甚至被逆行超车。所以当我把这个自动驾驶网约车相关新闻发到朋友圈时,有位在以色列工作过的朋友说,在这里开发自动驾驶,绝对是好地方,有足够丰富的路测场景。

  第二次是乘上了Mobileye平台支持的自动驾驶汽车。在没有人类司机干预的情况下,我们乘坐的福特汽车在马路上自由穿梭。甚至在一次变线时,其反应速度远远超过人类。而事后复盘一想,这丝毫不值得奇怪,毕竟这辆汽车的摄像头可以实时兼顾前后两百米的路况,根本无需像人类一样转向之前,还要匆忙再看一眼后视镜。

  实际上,自动驾驶汽车完全可能已经比人类司机更杰出了,只不过出于跨物种担心的缘故,我们需要自动驾驶汽车,比人类驾驶汽车的安全水平高一百倍,才能认可一个新司机的出现。就让人类“老司机”再保持最多不会超过十年的自信吧。


关键字:机器人  Mobileye  自动驾驶 引用地址:阿西莫夫的机器人三定律和Mobileye的自动驾驶五原则

上一篇:开放与封闭 自动驾驶芯片两巨头的恩怨
下一篇:基础技术布局完成后 BAT都在参与的无人驾驶时代还有多远?

推荐阅读最新更新时间:2024-07-25 20:17

自动驾驶汽车到工业物联网的宽广阵容方案
推动高能效创新的 安森美半导体 (ON Semiconductor,美国纳斯达克上市代号:ON),将在今年的慕尼黑电子展重点专注于四个关键细分市场。观众到超过400平方米的展位将看到公司用于汽车、物联网(IoT)、电机控制和可穿戴设备的最新产品和创新。十六个现场演示将展示如何使用及结合各种产品和技术,以在集成系统中实现高能效创新。   在汽车领域,安森美半导体宽广的产品和技术阵容继续针对最新贯穿全车的应用,配合主动(先进驾驶辅助系统ADAS)安全、LED照明、电机控制、汽车互通互联和汽车功能电子化的迅速发展。此外,公司的产品有助于推进半自动和全 自动驾驶汽车 。   物联网(IoT)和 工业物联网 (IIoT)是一个引人
[嵌入式]
美光推出首款四端口SSD,为数据密集型自动驾驶和AI智能汽车工作负载提速
北京时间4月10日,美光科技宣布,美光车规级4150AT SSD 已开始送样。作为全球首款四端口SSD ,该产品提供多达四个片上系统(SoC)接口,可实现 软件 定义智能汽车的集中存储。美光4150AT SSD集多项市场领先特性于一身,例如单根输入/输出虚拟化(SR-IOV)、PCIe 4.0接口和坚固耐用的车规级设计。凭借这些产品特性,美光车规级4150AT SSD将为汽车生态系统提供数据中心级别的灵活性和强大功能。 美光的多端口4150AT SSD支持虚拟化技术,为日益复杂的软件定义汽车提供集中决策新模式 美光嵌入式产品和系统部门副总裁Michael Basca表示:“为实现更高水平的自动驾驶安全性,以AI和先进算法
[汽车电子]
美光推出首款四端口SSD,为数据密集型<font color='red'>自动驾驶</font>和AI智能汽车工作负载提速
未来最容易被机器人“抢饭碗”的职业有哪些?(上)
  目前世界上至少有48个国家在发展机器人,其中25个国家已涉足到服务机器人的研发。截至2013年,全球机器人数量已超过1000万个,其中工业机器人170万个,服务机器人830万个。   由于科技的进步而且人们越来越不愿意从事自己不喜欢干的工作,因此未来类似于清洁、看护、保安等简单枯燥、危险性强的工作将逐步被机器人代替,那么未来最有可能被代替的职业是哪些呢?编者在此列举十种职业供各位看官赏析。    1、军人 无人机以及类似谷歌“大狗”这样的机器人已经对战争方式产生影响。目前,世界各地的科学家都在研制此前无法想象的新型武器。技术专家表示对于机器人采用的程序,我们将面临一些最为重要的抉择,例如是否让它们具备自动操控武器的能力。  
[机器人]
均胜电子是怎么拿下这些机器人大佬的订单的
均胜电子工业机器人业务迎来高速增长期。记者近日从公司了解到,今年以来,均胜电子工业自动化及机器人业务在国内市场发展迅猛,接连获得多家全球知名企业的新订单,逐渐成为公司发展最快的产业板块。   斩获多个名企机器人订单   工业自动化及机器人业务是均胜电子的三大核心业务之一,主要由旗下宁波均胜普瑞工业自动化及机器人有限公司(简称“均胜普瑞”)承接相关项目订单。据了解,均胜电子较早前获得博格华纳中国公司订单,目前已陆续使用。而近期公司又获得了苏斯帕(SUSPA)、天合(TRW)等全球知名企业在中国的系列新订单。公司预计2016年该项业务会迎来高速增长期。   公司此前披露,均胜普瑞工业自动化及机器人业务在达产后2年内营
[嵌入式]
华芯微特SWM341系列MCU应用扫地机器人方案
SWM341之扫地机器人 关于扫地机器人 众所周知,清洁是一项既费时又费力的工作,稍微长时间的清洁会使人感到腰酸背痛。在科技高速发展的今天,智能扫地机器人已大量投入市场,并得到越来越多家庭的认可。扫地机器人,顾名思义,可以扫地的机器人!目前市面上扫地机的品牌非常多,机器的功能也是多种多样,但最基础功能都是扫地和吸尘。行业痛点包括以下几个方面: 1 扫地机路线的规划不智能 部分机器人具有较好的扫地路线规划功能;但有些产品的清扫计划则杂乱无章,前者虽然扫地慢,但清洁方位全;对后者,除了清洁遗漏之外,很多使用者反馈,有些产品来回清扫一个地方,而对有垃圾的地方则熟视无睹。 2 障碍物绕行能力差 扫地机器
[机器人]
自动驾驶迎小高潮,将迎两种路线的长期战争
在智能互联的未来,汽车不再只是一个交通工具。随着搭载华为HI(Huawei inside)解决方案的极狐阿尔法S正式发布与预售的形式,标志着自动驾驶的比拼从技术到小时偶模式都将迎来更新。 搭载华为HI解决方案的智能汽车正式发布 4月17日极狐阿尔法S正式发布,搭载华为HI(Huawei inside)解决方案,包括计算与通讯架构,智能座舱、智能驾驶、智能网联、智能电动、智能车云服务,以及激光雷达、AR HUD在内的30个以上智能化部件。 首款车型阿尔法S华为HI版搭载3颗96线车规级激光雷达,6个毫米波雷达,12个摄像头,13个超声波雷达,同时搭载算力可达352Tops的华为芯片。 4月19日的车展上,赛力斯
[汽车电子]
OnRobot参评“维科杯·OFweek 2022中国机器人行业年度优秀创新产品奖”
维科杯·OFweek 2022中国 机器人 行业年度评选(简称OFweek Robot Awards 2022),是由中国高科技行业门户OFweek维科网及旗下权威的机器人专业媒体-OFweek维科网·机器人共同举办。该评选设立至今已有十余年,是中国机器人行业内的一大品牌盛会,亦是高科技行业具有专业性、影响力的评选之一。 此次活动旨在为机器人行业的产品、技术和企业搭建品牌传播展示平台,并借助OFweek维科网平台资源及影响力,向行业用户和市场推介创新产品与方案,鼓励更多企业投入技术创新;同时为行业输送更多创新产品、前沿技术,一同畅想机器人行业的未来。 今年,OFweek Robot Awards 2022将全新升级,在去年奖项的
[机器人]
6个亿!全球最牛手术机器人中国代理权转让
近日,达芬奇手术机器人的中国独家代理商上海复星医药(集团)股份有限公司发布公告称,以不超过6亿元人民币对达芬奇手术机器人中国代理权进行转让,受让方为联营公司直观复星上海和直观复星香港。这两家公司复星医药均只持有40%股份,不再有控股权,控股权由美国直观医疗器械公司间接掌握。 美国直观医疗器械公司是达芬奇手术机器人的生产者与全球经销商(除中国地区)。而今,能够缝合葡萄皮的手术机器人达芬奇入华12年后,其中国市场重归“老东家”,这与达芬奇手术机器人在中国市场的惊人表现分不开。 入华12年市值达600亿 中国医院年手术量最多 达芬奇手术机器人是目前全球最成功及应用最广泛的手术机器人,广泛适用于普外科、泌尿科、心血管外科、胸外科、妇
[机器人]
小广播
最新汽车电子文章
换一换 更多 相关热搜器件

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved