特斯拉FSD系统测评：开上电车轨道，认不出停车标志，且差点撞上行人

2022 年 2 月 11 日 机器之心

机器之心报道

编辑：张倩、蛋酱

特斯拉的完全自动驾驶又出问题了。

最近的一段时间，特斯拉的完全自动驾驶系统（FSD）似乎经常被曝出 bug。最近的一次发生在春节期间：特斯拉因 FSD 的「rolling stop」功能违反美国交规而召回 53,822 辆汽车。即在某些标有「all-way stop」标志的十字路口，该软件将允许部分汽车低速前行，而不是有一个彻底停下来的动作。

当时，特斯拉表示，截至 1 月 27 日，它还没有收到任何与这次召回相关的保修索赔、撞车、受伤或死亡事件的消息。因此，特斯拉首席执行官埃隆 · 马斯克在推特上表示，该功能「不存在安全问题」。

目前，特斯拉已经停用了 FSD 的「rolling stop」功能，但关于此功能安全性的讨论仍在继续。与此同时，更多有关 FSD 的问题开始浮出水面。

在 2 月 10 号的一份报道中，《华盛顿邮报》提到，他们召集了一个专家小组对特斯拉车主上传的一些驾驶视频进行了逐帧分析，结果显示，特斯拉的 FSD 存在根本性的弱点。专家们表示，这些问题都是不容易解决的，修补一个问题可能会带来新的复杂性。

有的问题令人哭笑不得，比如一个右转之后，特斯拉直接驶入了电车轨道：

他们分析的这些视频来自 YouTube，FSD 出现的更多问题包括：

以每小时 11 英里的速度撞向自行车道护柱；
在即将有行人经过的斑马线前没有停车让行；
远距离停车；
争夺方向盘的控制权；
无法辨认某些交通标志。

撞上护柱

在一个晴朗的日子里，一辆搭载了 FSD Beta 的特斯拉以每小时 15 英里的速度右转通过圣何塞的一个十字路口。一条自行车道位于道路内侧。然后，车就以每小时 11 英里的速度撞上了自行车道的保护柱。

「这个问题既是制图问题，也是感知问题。作为永久性的护柱而不是临时的圆锥体，它们应该出现在地图上，」长期从事自动驾驶汽车开发的 Brad Templeton 说。

「至于为什么 FSD 没有及时感知到这些护柱，也许是因为护柱的形状和颜色不太常见，所以系统在训练的时候没有见过它们，」特斯拉的一位车主兼粉丝 Templeton 表示。

特斯拉的超声波传感器有望探测到这些危险，但它们的位置（前保险杠等）可能是一个弱点。Templeton 说:「它们可能看不到稀疏的、薄的东西，比如贴纸。」

差点撞上行人

第二个例子同样发生在圣何塞，在遇到绿灯照例右转之后，特斯拉险些撞上一位即将过斑马线的行人。行人看到特斯拉之后突然停了下来，特斯拉也出现了减速，但减速时已经走过了斑马线的大半部分。

在分析了这段视频和其他类似视频后，《华盛顿邮报》的专家小组表示，FSD 似乎并没有识别出人行道的标志，也没有预料到一个静止的行人可能会冒险穿越马路。亚利桑那州立大学风险创新实验室主任 Andrew Maynard 教授说：「目前还不清楚汽车是否对行人的出现做出了反应，但显然司机受到了惊吓。」

激光雷达技术公司 AEye 首席研发官 Hod Finkelstein 表示，他不相信光是摄像头就足以在所有情况下检测到行人的意图，因为它们不擅长测量远处物体的距离，并且会被汽车前灯和太阳「闪瞎」眼睛。传统的自动驾驶汽车制造商已经将摄像头、激光雷达、传统雷达甚至超声波传感器结合起来使用。

特斯拉的软件结合了机器学习软件和更简单的软件「规则」，比如「见到停车标志和红灯就要停。」但正如一位研究人员指出的那样，机器学习算法总是会学到不该学的东西。比如，如果软件被告知「永远不要撞到行人」，它可能会错误地理解成：如果行人即将被撞到，他们自己会让开。

软件开发人员可以创建一个「规则」，即汽车必须为行人减速或停车。但这样一来软件就会瘫痪，因为城里到处都是人。所以，这最终还是一个长尾问题。

远距离停车

在同一位司机 12 月初录制的另一段视频中，特斯拉会在人行横道外有行人过马路时停下来，并且是在行人距离很远时就开始停下来。此时，许多人类驾驶员会选择继续行驶。

该视频表明，如果行人向道路方向行进，特斯拉可能会被命令减速。但一位专家提出了另一种可能性：汽车可能是因为视觉错觉而停下来的。

在这个视频中，特斯拉和行人之间的红色标志与人行道上的一棵树重合在一起，创造了一个类似于停车标志的图像。今年 2 月上传的一段视频展示了同样的现象，表明停车标志错觉确实在欺骗汽车。

争夺方向盘的控制权

当然，这些视频中的特斯拉并没有造成真正的危险，因为大多数情况下车主会在系统做出错误选择时及时接管。特斯拉官网显示，在使用 Autopilot 和 FSD 时，驾驶员必须「始终将手放在方向盘上」，并始终「保持对汽车的控制和责任」。

但有时候，接管也会出现麻烦。在另一个例子中，同一辆特斯拉正在经过一辆停在狭窄街道上的卡车，同时两边都停着车辆。在不确定该怎么做时，汽车软件会提示驾驶员接管。但此时驾驶员难以控制车辆，因为方向盘在剧烈地左右摆动。

在这个案例中，计算机系统和人类都试图驾驶汽车通过一个狭窄的位置，几乎没有左右摆动的空间。在大多数情况下，司机通过向软件试图转向的相反方向猛拉方向盘来接管。但是，在这种情况下，这种运动是不可能的，因此不清楚是汽车还是人在控制。由于没有急转弯，驾驶员无法通过转动方向盘来重新获得控制权，因此情况变得棘手。

认不出只有字母的停车标志

还有一个严重的问题是，特斯拉的汽车没有对「Stop here on red」（红灯在此停车）标志做出反应。密歇根州的一位司机 Chris 在 11 月发布了一段视频，在这个过程中，他被迫踩下了刹车。

一位自动驾驶研究者表示，这种在美国道路上随处可见的标志会给特斯拉工程师带来困扰。除非汽车摄像头能够识别出标志上的字母，否则计算机将不得不寻找其他线索，例如箭头标志或画在马路上的白线。但这可能会在其他情况下产生问题，导致汽车在看到道路上的线条或类似箭头标志时错误地停车。

特斯拉的许多竞争对手都使用高清地图来猜测停车和转弯的位置，但这种策略也会引发其他问题，比如任何地图都有可能跟不上持续变化的道路网络。

所以，在使用 FSD 大约一年后，Chris 认为汽车距离实现可靠的自动驾驶还需要十年时间。

除了自动驾驶，特斯拉最近还因为其他问题召回近 58 万辆汽车。

行人警告系统声音被掩盖，再次召回近 58 万辆汽车

2 月 10 日，美国监管机构表示，特斯拉正在美国召回 578607 辆汽车，因为行人可能无法听到汽车驶近时所发出的必要警报声，原因是该车的「Boombox」功能会大声播放音乐或其他声音。

在过去的四个月里，特斯拉已经在美国发布了 10 起召回事件，其中就包括最近两周的 4 起。美国国家公路交通安全管理局 (NHTSA) 对这家总部位于德克萨斯州的公司进行了越来越严格的审查。特斯拉表示，目前还没有发现任何与引发最新召回的车辆警报问题有关的撞车事故、伤亡事故。

特斯拉在 2020 年 12 月推出了「Boombox」，可以让驾驶员改变汽车喇叭音，车主可以定制其他声音来代替正常的汽车喇叭声，还可以通过外部扬声器播放车上的音乐，比如一边驾车一边在车外播放自己喜欢的歌曲。

「Boombox」允许在车辆行驶时通过外置扬声器播放声音，这可能会掩盖所需的行人警告系统声音。美国国家公路交通安全管理局表示，他们没有遵守联邦机动车安全标准关于电动车辆最低音量的要求。因此，特斯拉正在召回 2020-2022 款 Model S、 Model X、 Model S 和 2017-2022 款 Model 3 车辆。

电动汽车在低速行驶时往往比汽油发动机更难及时「听到」。根据美国国会的规定，汽车制造商必须在电动汽车以高达每小时 18.6 英里 (30 公里) 的速度行驶时，在电动汽车上添加声音播放，以防止行人、骑自行车者和盲人受伤。美国国家公路交通安全管理局表示，在更高的速度下，轮胎噪音、风阻和其他因素都会掩盖掉警报声。

软件更新后，特斯拉将在 D、N、R 三种模式时禁用 Boombox 功能。事实上，特斯拉最近的多次召回都是为了解决软件问题。在 NHTSA 对特斯拉汽车的特性和投诉提出质疑后不久，特斯拉就发生了几起召回事件。目前，监管机构正在调查特斯拉的驾驶辅助系统 Autopilot 和车载游戏功能。

在 NHTSA 的压力下，特斯拉在 2021 年 1 月同意召回 13.5 万辆触控屏可能出故障的车辆。在这种情况下，NHTSA 采取了非正常步骤正式要求召回。

特斯拉曾试图通过 OTA 更新解决这个问题，但 NHTSA 在 2021 年初表示，这些更新可能「从程序上和实质上都不够充分」。

据特斯拉介绍，NHTSA 在 2021 年 1 月发出了信息请求，随后的几个月里，双方就这个问题召开了几次线上会议。

特斯拉表示，到了 2021 年 9 月，NHTSA 升级了对此事的调查。10 月，特斯拉为用于确定 Boombox 合规性的测试和基本原理进行了辩护，但在 12 月的会议后，特斯拉最终同意召回车辆。

参考链接：

https://www.washingtonpost.com/technology/2022/02/10/video-tesla-full-self-driving-beta/?utm_campaign=wp_post_most&utm_medium=email&utm_source=newsletter&wpisrc=nl_most&carta-url=https%3A%2F%2Fs2.washingtonpost.com%2Fcar-ln-tr%2F3600afd%2F620545689d2fda34e78790ff%2F59726031ae7e8a1cf4a77b1b%2F37%2F72%2F620545689d2fda34e78790ff

https://www.reuters.com/business/autos-transportation/tesla-recalls-nearly-579000-us-vehicles-over-pedestrian-warning-risk-sounds-2022-02-10/