特斯拉软件被曝存漏洞 电子胶带诱使其在限速区超速
腾讯科技 | 来源:腾讯科技 浏览次数:357 发布时间:2020年2月20日
摘要:

McAfee表示,这个问题对司机来说并不算是个严重的风险。没有人受伤,方向盘后面的研究人员能够安全地让汽车减速。

  2月19日消息,据外媒报道,计算机安全解决方案供应商McAfee的研究人员日前发现,电动汽车制造商特斯拉的司机辅助驾驶系统存在潜在漏洞。他们通过在限速标志上粘贴电子胶带,从而诱使特斯拉汽车在限速区超速行驶。

  McAfee的技术人员将电子胶带以水平方式粘贴在时速35公里限速标志上。根据McAfee周三发布的研究显示,这一变化导致特斯拉车辆读取的限速数据为每小时137公里,从而促使其巡航控制系统自动加速。

  McAfee表示,这个问题对司机来说并不算是个严重的风险。没有人受伤,方向盘后面的研究人员能够安全地让汽车减速。

  但McAfee高级威胁研究主管史蒂夫·波沃尔尼(Steve Povolny)表示,去年结束的18个月研究结果表明,特斯拉司机辅助驾驶系统中使用的机器学习存在弱点。其他研究表明,物理世界的变化会使这些系统变得混乱。

  测试涉及2016年生产的Model S和Model X,它们使用了Mobileye公司提供的摄像头系统,Mobileye现在是英特尔旗下子公司。多家汽车制造商都在使用Mobileye的系统,尽管特斯拉在2016年停止使用它们。

  据McAfee称,对Mobileye最新摄像系统的测试没有发现同样的漏洞,特斯拉的最新车辆显然不依赖于交通标志识别。特斯拉没有回复寻求对该研究发表评论的电子邮件。

  波沃尔尼表示:“制造商和供应商意识到了这个问题,他们正在从这个问题中吸取教训,但这并不能改变这个行业存在很多盲点的事实。”

  可以肯定的是,今天发生这样的事件对现实世界的威胁是有限的。首先,自动驾驶汽车仍处于开发阶段,大多数汽车正在接受安全司机的测试。现在有先进的司机辅助驾驶系统的车辆仍然需要人类司机保持专心。

  McAfee的研究人员只能通过复制特定的序列来欺骗系统,这些序列包括当司机辅助功能打开并遇到改变的限速标志时才会发挥作用。制造商也在将地图技术集成到反映适当限速的系统中。

  波沃尔尼说:“我们不太可能在野外看到这种情况,或者攻击者会试图利用这一点,直到我们拥有真正的自动驾驶汽车。不过到那时,我们希望这些类型的缺陷应该已经得到解决。”

  Mobileye在一份声明中表示,人类司机也可能被这样的修改所愚弄,研究人员测试的系统旨在帮助人类司机,而不是支持自动驾驶。

  该公司表示:“自动驾驶汽车技术将不仅仅依赖于传感器,还将得到其他各种技术和数据的支持,如众包地图,以确保从摄像头传感器接收到的信息的可靠性,并提供更强大的冗余和安全。”

  McAfee的研究紧跟在被称为对抗性机器学习的类似学术工作之后,这是个相对较新的领域,该研究基于计算机的学习系统如何被操纵。例如,2017年的研究人员发现,在停车标志上的特定位置放置四个黑白贴纸可以“欺骗”计算机视觉系统,让其无法看到时速72公里的限速标志。

  杜克大学机器人学教授、自动驾驶汽车专家米西·卡明斯(Missy Cummings)表示,这个问题并不是特斯拉或Mobileye特有的,而是驱动自动驾驶汽车的先进系统固有的一个更广泛的弱点。研究人员已经表明,在没有访问系统本身的情况下改变物理环境,会导致潜在的严重故障。

  卡明斯解释称:“这就是为什么它是如此危险的原因,因为你不需要进入系统来黑它,你只需要改变我们所在的世界即可。”

声明:如若转载,请注明出处及文本链接.

扫码关注官方微信号
Copyright 中国电子商会 版权所有