我黑掉路边广告牌，就能让特斯拉自动驾驶系统紧急停车
机器之心报道
作者：蛋酱、张倩
特斯拉的 Autopilot 系统有多好骗？人类永远不会认为 ， 树上的投影和户外广告中的标志是真实的 ， 可惜特斯拉没这么聪明 。
片头先播放一段广告（没收钱）：
文章插图
?这段广告来自麦当劳 ， 但有人在上面「动了手脚」：除了汉堡和薯条 ， 还有一个「STOP」交通标志一闪而过 。
虽然这个标志只出现了 0.5 秒 ， 但却足以误导一辆特斯拉最新的自动辅助驾驶系统 ， 使其下达停车命令：
文章插图
路边的电子广告牌正在播放上述广告 ， 一辆特斯拉从旁边经过时受到了广告中一闪而过的停车标志误导 ， 将车停下 。
这种针对自动驾驶汽车的对抗攻击也不是什么新鲜事 ， 但在以往的研究中 ， 人们大多关注「有哪些东西是自动驾驶系统看不到的」 。 而这项实验的不同之处在于 ， 研究者关注的是「有哪些东西是人类驾驶员不会留意 ， 但自动驾驶系统会注意的」 ， 比如上文中一闪而过的停车标志 。
以色列本 · 古里安大学的研究者已经花了两年的时间来研究这个问题 。 此前 ， 他们曾透露 ， 特斯拉的辅助驾驶系统会被路上一闪而过的投影所误导 ， 将这些投影看成路标或斑马线 ， 从而在毫无预警的情况下将车停下 。
在今年初的一项实验中 ， 研究人员分别在道路、树木等物体上投射了人影、路标、道路标志线等误导性投影 ， 结果搭载 HW2.5 Autopilot 的 Tesla Model X 全部中招 。
文章插图
特斯拉 Autopilot 将投影在路上的虚拟人当成真人 ， 下达刹车命令 。
文章插图
特斯拉 Autopilot 眼中的虚拟人投影 。
文章插图
特斯拉 Autopilot 在地面标志线投影的误导下突然变道 。
在上述研究的基础上 ， 研究人员继续改进实验 。 一项新的研究发现 ， 在一个电子广告牌中嵌入几帧的路标也能达到相同的效果 。 他们提醒说 ， 如果黑客入侵了联网的广告牌 ， 他们就能利用这一漏洞制造交通拥堵或事故 ， 而且几乎不留下证据 。 这篇论文已被 2020 年第 27 届 ACM 计算机和通信安全（CCS）会议收录 。
文章插图
论文地址：
研究人员发现 ， 一张只出现 0.42 秒的图像就能成功欺骗特斯拉 ， 而一个只出现了八分之一秒的标志骗过了以色列高级驾驶辅助系统——Mobileye 。
文章插图
将一个限速标志嵌入上述广告 ， 时长为 125ms 。
文章插图
?向一个安装了 Mobileye 设备的汽车展示潜入了限速标志的广告牌 ， 汽车被成功欺骗 。
为什么自动驾驶系统总是很好骗？
当然 ， 本 · 古里安大学的研究者不是第一批向特斯拉自动辅助驾驶系统发起挑战的人 。 早在 2016 年 ， 南卡罗来纳大学和浙江大学等机构的研究者就曾经利用无线电、发光设备等成功地「愚弄」了特斯拉的自动辅助驾驶系统 。
近日 ， 还有一个中国团队发现 ， 针对特斯拉的车道跟踪技术 ， 只需要在道路上贴上贴纸 ， 就能诱导特斯拉改变车道 。
