Researchers trick autonomous car autopilot with 幻影 images

内盖夫本古里安大学的研究人员’的(BGU)网络安全研究中心发现,他们可以欺骗自动驾驶汽车上的自动驾驶仪,以错误地踩下刹车以响应“phantom”投影在道路或广告牌上的图像。

特技车自动驾驶仪

在研究论文中,研究人员证明了半自动或完全自动驾驶仪和高级驾驶辅助系统(ADAS) 自动驾驶汽车 将对象(幻像)的无深度投影注册为真实对象。

它们展示了攻击者如何通过使用商用无人机和廉价的图像投影仪,在没有任何特殊专业知识的情况下利用这种感知挑战来操纵车辆,并可能伤害驾驶员或乘客。

车载通讯系统落后

尽管在世界范围内已经部署了全自动和半自动汽车,但将汽车与其他汽车,行人和周围基础设施连接起来的车辆通信系统却滞后。

据研究人员称,缺乏这样的系统造成了“validation gap,”这样可以防止自动驾驶汽车仅依靠内部传感器来与第三方验证其虚拟感知能力。

In addition to causing the autopilot to apply brakes, the researchers demonstrated they can fool the ADAS into believing 幻影 traffic signs are real, when projected for 125 milliseconds in advertisements on digital billboards.

物体检测器中的缺陷

最后,他们展示了配备投影仪的无人机在道路上投射的假车道标记将如何引导自动驾驶仪进入对面的车道并可能迎面驶来。

“目前,汽车行业尚未考虑这种攻击。这些不是错误或不良的编码错误,而是对象检测器中的根本缺陷,未经训练就无法区分真实对象与伪造对象并使用特征匹配来检测视觉对象,”主要作者,博士学位Ben Nassi说。 Yuval Elovici教授的学生 BGU‘的软件和信息系统工程系和网络安全研究中心。

实际上,即使深度传感器可以区分2D和3D,投影在道路上的无深度对象也被认为是真实的。 BGU研究人员认为,这是由于“安全胜过后悔”导致汽车将视觉2D对象视为真实对象的策略。

研究人员正在开发一种分析检测到的物体的神经网络模型’s context, surface and reflected light, which is capable of detecting 幻影s with high accuracy.

分享这个