datasheet

Leiphone雷锋网

文章数:9664 被阅读:29911716

账号入驻

多次破解特斯拉,最牛安全实验室科恩的新计划 | 访腾讯科恩吕一平

2019-07-04
    阅读数:

▲点击上方 雷锋网 关注


马斯克相信特斯拉的全部传感器件都能通过装载摄像头实现。或许这行得通,但并不安全。

 文 | 灵火K 

有一帮人,他们不用接触你的车,即可远程“黑”入整套车载系统。

有一帮人,马斯克亲笔写信向其致谢,只因为他们“玩坏了”一台特斯拉。

有一帮人,善于与时间赛跑,在自动驾驶的赛道上与死神(安全隐患)争第一。

他们,就是腾讯安全科恩实验室。

2016年9月21日,科恩实验室正式宣布以「远程无物理接触」的方式成功破解了特斯拉汽车,这在全球尚属首次。

期间,腾讯科恩实验室针对特斯拉漏洞进行研究,他们使用了一辆 2014 款 Model S P85 进行安全研究,同时还在一位朋友刚购买的新款 Model S 75D 上进行复测,两者均安装了最新版本固件,证明该项研究可以影响特斯拉多款车型。

对于科恩实验室而言,他们要做的不是亡羊补牢,而是提前预防,通过一些提前测试评估,去发现可能存在的安全问题,及时寻找解决问题的方案和途径,从而提高安全性能。在安全领域内已经深耕多年的吕一平,对安全问题尤为敏感,也感触良多。

时隔三年,这家最牛安全实验室又将为我们解锁哪些破解特斯拉的新姿势呢?为了得到答案,宅宅和腾讯安全科恩实验室总监吕一平聊了聊。


回归特斯拉Autopilot,深入联网操控“腹地”


很多人提及汽车行业,都会想到一个比较热的词叫“新四化”,即智能化,从level0到level5,实现完全的无人驾驶;网联化,就是车要介入到互联网,重新定义汽车的产品属性;新能源化,实现电动化;最后就是共享化。科恩实验室目前的研究重点和前面两个领域相关度比较高。

2016年科恩实验室完成了特斯拉第一个HU的OS与整车车电架构的信息安全研究,2017年完成特斯拉Model S以及新款的Model X上的研究,2018年完成对宝马进行研究,研究成果覆盖宝马全系,并包括劳斯莱斯与MINI品牌。

因为只有特斯拉在量产车上比较广泛地使用L2的高速辅助驾驶功能,2019年科恩更是投入到特斯拉的Autopilot信息安全相关研究领域,针对AI在汽车数字化上的新维度安全进行前沿研究。

雷锋网了解到,吕一平的研究早已经深入联网操控的“腹地”。

“目前特斯拉主要通过3G、4G的网络WIFI信道攻入。由于在特斯拉的车上有浏览器组件,车原本的中控系统是运行在一个浏览器的系统上面。把WIFI信道串接到浏览器上,然后我们又攻击了其内核,最后拿到系统的控制权限。

一般来说,获取了控制权限就等于是得到了该车的最高权限,完整控制整个中控平台也就不再是遥不可及的一件事。

特斯拉的中控系统实际上是特斯拉车上网络的一个从内到外的核心节点,连着仪表的液晶屏、网关、APE自动驾驶的决策体系,打开中控平台就实现了各个模块之间的交互,以这个为基础,可以进一步去攻击其他模块。

简单来说就是,从3G、4G或者WIFI打入到浏览器,再从浏览器打入到中控系统的内核,在完全控制它之后逐步延伸,最后去攻击车联网关。如此操作下来,即便不攻击网关,直接攻击APE同样可实现对核心车联网模式的控制,从而控制整辆车。


迷惑摄像头,逆向算法构造对抗样本


“马斯克说过,他相信特斯拉的全部传感器件都可以通过装载摄像头来实现。或许这行得通,但它并不安全。

对于特斯拉本身,其自动驾驶系统是通过摄像头用视觉AI的模式来做一些环境感知、数据融合,最后完成一整套驾驶决策,这其中是有一个过程的。当摄像头对周围的环境变化或者对行驶的变化做出一个感知之后,再把这些数据传递给决策系统,最终做出自动驾驶决策。

以前在做网联攻击的时候,主要是通过3G、4G、WIFI,或者是蓝牙、NFC的通讯信道,或者通过物理接触模式,比如说通过USB或者是OBD口,从汽车另外一个诊断接口插进去能够入侵到它的系统和通讯模块,甚至往下攻击,最后到车电网关。

在自动驾驶之后,吕一平带领团队研究出了一个新的路径,研究对象是特斯拉的视觉感知系统,该系统的数据来源是特斯拉前挡风玻璃上摄像头采集的图像,研究团队通过软件逆向分析等手段,理解该系统的工作原理。

视觉感知系统背后是一套深度神经网络算法,充分理解并利用神经网络算法的信息可以构造对抗样本,这也就是AI算法的对抗样本。

该样本的构造并不是通过对一万或是更多的图片进行测试,而是通过深度理解后去构造模型,然后测试、微调,再测试。这一过程最重要的并不是去生成样本,而是对算法和深度神经网络的理解和研究,从而反向去构造样本,也就是反向逆推算法的过程。

吕一平称,实际上,人工智能算法本身在一些高风险的场景里是有一定风险的,比如行车,对人身安全和生命安全都有一定的威胁,因而在对算法测试的过程中就需要格外的严谨,需要算法和神经网络专家不断调整模型,然后去适应对抗样本,这是一个漫长而又艰难的过程。


车辆改道,纵向干扰识别道路障碍物


在自动驾驶中,单纯依靠视觉也是不够的,吕一平举了一个非常直观的例子,“如果一个人向前跑,朝着太阳的时候光线刺眼的话就看不清前面的路,这种情况下单纯依靠视觉风险就会比较高。但是如果有像蝙蝠一样的毫米波雷达,就会发射超声波形成反射,虽然看不见,但是有毫米波雷达的反馈得以让蝙蝠知道障碍物所在之处。

在这样的思路下,要想感知和识别道路障碍物,就需要去干扰人工智能的视觉部分。对于传统车辆,还需要查车的技术架构,可能仅仅干扰视觉还不够,还需要去干扰其它的感知部分才能够解决道路障碍物的问题。

以前,对人工智能算法和深度学习网络的研究都是在实验室环境里做得比较多,并非在实际应用场景下操作的。而现在,科恩实验室用真实跑在路上的车做了这一研究。


接管控制权,遥控手柄操控决策系统


在提到自动驾驶的过程中,吕一平向雷锋网详细解读了这一过程。

自动驾驶体系主要是通过反射波等一些感应模块对周围的环境有一个全面的感知。之后,系统产生数据,当这些数据融合在一起的时候形成一个模型,并有标准化的数据生成决策模块,这些决策模块不仅有数据,还有判断的逻辑,最终执行一个有效的行驶判断。在这一过程中,遥控手柄是可以完全控制自动驾驶决策系统。

“遥控手柄直接针对决策模块去做入侵,Autopilot的自动驾驶决策模块有中控模块,在攻入中控系统以后,紧接着去攻击APE模块,所以这个路径就通了,就是把我们原来的攻击面延伸到了自动驾驶决策模块,最后实现了完全控制。”吕一平解释到。

这一过程跟感知无关,在打通了中控、网关和APE之后,已经实现了完全控制,可以任意操控特斯拉,这是一个纯系统的操控,有没有感知都是无所谓的。

这一技术实现了把车的驾驶权限从人交给了系统,如果系统本身的安全性有问题的话,尤其是决策部分存在安全问题,就会直接影响驾驶安全,造成重大安全事故。

车企测评:测试标准+分数图谱


对于一辆车安全性能的测试,吕一平表示要从多角度进行。

目前科恩的检测项目已经有300多项,形成一套通用的整车测试标准,并且每个面向车企合作的项目都有一个详细的测试过程。针对一些网联模块有对应的测试项目,由项目合作人统筹规划,分解具体工作给营业员实际分析测试。

最近,科恩实验室又制定出了一套打分机制,形成一个图谱对标其他车企。

通过不同的维度,针对测试评分,与其他同行匿名比对,从而发现自身存在的缺陷和问题。但是安全本身是一个很难量化衡量的,这些打分和测评机制更多的是帮助这些车企更好地去改进,帮助他们及时发掘需要进一步投入的方向。

吕一平告诉雷锋网,在未来的两年里,科恩将不断拓展输出能力的方向,将会在更多重要的安全领域得到展现,打造出一款无形却可以被感知,隐藏却可以被召唤,看不见却广为人知的产品,成为守护在更多人的身边 “防护盾”。

推荐阅读

李彦宏和小度最强互动,王海峰发布鸿鹄芯片,百度音箱大变身

▎支付宝刷脸支付将上线美颜功能;特朗普:推特离了我啥也不是;三星承认折叠屏手机是赶鸭子上架

好看!小米自拍神机发布:100% 美图美颜,价格很诱人

▎Jony Ive 的离开,让苹果下一任 CEO 浮出水面了

库克怒批首席设计师离职内幕报道;小米回应注册快递商标;马斯克称5年内推出电动飞机


你还在看吗?

最新有关leiphone-sz的文章

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved