AI发神经撞马路牙子！小马智行路试全无人自动驾驶结果「翻车」

---

  新智元报道  

编辑：袁榭

【新智元导读】2022年3月头，小马智行中国这边刚融完资，美国那边就被要求召回自动驾驶系统（ADS）软件，成了全球第一个被如此要求的L4自动驾驶系统。

智能驾驶界的中国「造车新势力」的宣发攻势与业务成就近年来都是高歌猛进、不输美国同行头部企业的。

 

不过，2022年3月，中国的无人驾驶车企创下了一个负面新闻的世界第一：

 

小马智行的自动驾驶系统（ADS）软件部分版本被美国监管机构要求召回，这是世界首起由监管部门发起的对L4级自动驾驶系统的召回事件。

 

 

NHTSA要求小马智行召回ADS

据美国「国家公路交通与安全管理局」 (NHTSA) 称，因2021年10月在加利福尼亚路试时发生车祸，自动驾驶汽车初创公司小马智行将召回其自动驾驶系统软件（ADS）的部分版本、与三辆实验用汽车。

 

该机构表示，这是全球首次由监管机构发起的、对驾驶全部交给AI的L4级全自动驾驶系统的召回要求。

 

NHTSA副局长在官方声明中称：「无论车辆是由人类驾驶员还是AI驾驶系统操作，保护道路使用者的需求都是同样的。正如此番首次召回所要强调的，NHTSA将确保汽车制造商、开发商在引进最新技术的同时，将道路安全放在首位。」

 

 

小马智行公司对源头事故的官方描述是：

 

2021年10月28日，一辆小马智行完全无人测试车在美国加州弗里蒙特进行测试过程中，变道时开上了道路中央的隔离带，与道路中间的路标发生了轻微碰撞。没有人员受伤，也不涉及其他车辆。

 

事故发生之后，小马智行立即暂停了在加州的自动驾驶无人化测试并对事件进行了全面复盘。碰撞发生后一直全力配合NHTSA的问询。

 

理想路况中，无安全员的全自动智能车突然撞击

无人驾驶车辆在变道时开上了道路中央的隔离带，并与其上的路牌碰撞。这种程度的路试事故在有关智能汽车业界的消息中其实是常态。

 

而且只有小马智行的测试车辆前部受损，未造成任何人员伤亡。这种无人车自行开上马路牙子的事，比2018年Uber无人车路试事故搞到车毁人亡的大场面来说，只能算是清粥小菜。

 

何以小马智行这次成了世界第一被召回的呢？原因可能在于「自行」这俩字上。

 

小马智行的实验车辆是完全自动驾驶模式（ADS）下运行下出事的，其L4级实验车辆完全不配备任何人类安全员以备接管。

 

而且当时的路况，根据加州DMV的官方发布，事故发生时天气晴朗、道路也比较干燥，还没有任何其他车辆与突发路况来干扰。

 

在这种理想路况下，AI还突然开上马路牙子，那就颇值得寻思了。其他厂商的智能车出类似事故，好歹有天气影响传感器和AI判读、路上其他车辆加塞变道抢线干扰AI等等前提，小马智行此次事故找不出这些由头来。

 

事故现场当时的鸟瞰图

 

所以NHTSA向小马智行表示，它认为小马智行的自动驾驶软件存在安全缺陷，并要求召回。

 

据小马智行称，撞毁车辆中的软件问题也在另外两辆路试车辆中发现，这三辆车都已修复。小马智行还表示已更新其软件代码。

 

鉴于小马智行无人测试车辆都仅用于公司内部研发，因此他们在事故第二天即按照要求完成了NHTSA相关要求。目前，该公司已对NHTSA所有问询均进行了回应，且2021年12月中旬之后NHTSA再无任何新增问询。

 

2022年3月3日，小马智行向NHTSA提交了召回报告。3月7日，NHTSA确认了小马智行的召回。

 

按公司发言人受访时的说法，这是小马智行自动驾驶汽车第一次也是唯一一次发生此类事件。

 

发言人称小马智行的实验车队已经完成了超过600万英里的真实世界驾驶总里程，其中305617英里的里程是2021年在美国加州完成的。

 

事故原因：程序代码bug了

NHTSA官网上，有小马智行提交的召回安全报告，报告中刨析了2021年10月28日在美国加州发生的测试车碰撞事故，并简述了事故原因、软件缺陷以及召回计划。

 

 

小马智行的「自动驾驶系统」（ADS）软件的故障版本中，其车辆地理定位的诊断功能部分代码，在极少数情况下可能会错误地判别小的浮点数舍入错误/差异。

 

因此，AI软件中一个特定的诊断匹配函数，可能会错误地将程序内无关紧要的浮点数舍入差异判断为车辆的地理位置出错。

 

当事故时，小马智行的汽车自动驾驶正在运行地理定位诊断检查，由于「当时非常罕见的因素和条件组合」，程序产生了浮点舍入差异，诊断检查将其误判为车辆地理位置不匹配。此错误导致诊断检查功能强行关闭 ADS。这一关闭，就导致撞击事故的发生。

 

 

考虑到当时风和日丽、路面干燥、路况空旷，简直理想到像是专业测试赛车道的情景，这也能算是「非常罕见」、让AI出bug到发神经开上马路牙子乱撞。无怪NHTSA要拿小马智行开这头一刀啊。

 

社会背景：美国监管部门顺应民意收紧管制

由于这次事故，加州交管局 (DMV)在2021年冬季撤销了小马智行的「全无人自动驾驶测试牌照」 (Driverless Testing Permit)。

 

此牌照列表原本包括了八家厂商，都是业界中的一流厂家。中美两国企业在其中平分秋色：中国的小马智行、文远知行、AutoX、百度Apollo，美国的Waymo、Cruise、Zoox、Nuro。

 

这些企业原本都可以在加州道路上让无人车在主驾驶位没有安全员的情况下上路测试，小马智行这事故一出，立马被移除榜单了。

 

而且这事故正好出在美国国内逐渐收紧无人车路试监管的当口。

 

 

美国国内不管科技业界还是普通公众，都对之前智能无人车企业几乎不受实质监管的状况火大。再加上马斯克的自动吸睛戏精属性，这行当只要一出事就是众矢之的。

 

权威科技期刊《电子工程专辑》2021年专门发文，痛斥智能无人车企业十二大罪，反复称无良工程师和厂商把公共道路当成私家实验场、把公众当成测试小白鼠，却几乎没受实质管制。

 

Waymo在亚利桑那州凤凰城的小规模Robotaxi试点中，据说有周边居民向自动驾驶测试车扔石块，认为这些玩意让路况大大危险起来。

 

2021年6月底，NHTSA发布新规，要求所有L2以上辅助驾驶和自动驾驶的厂商都必须在事故发生一天之内提供报告，并在10天之内对事故报告进行更新。很明显，以前无人车测试的宽松环境一去不复返了。

 

小马智行刚D轮融资完

2022年3月，小马智行刚完成D轮融资，其估值已飙升至85亿美元。

 

小马智行计划利用这笔资金，扩大企业规模，进一步增加招聘，并建立更多战略合作伙伴关系。它还计划增加研发投资，包括对其自动驾驶出租车和机器人卡车车队进行全球测试，迈近旗下车队的大规模商业落地。

 

到目前为止，该公司没有透露融资金额的细节，但计划在整轮融资结束时公布总额。

 

刚融完资就出这种消息，真是不大喜庆啊。

参考资料：

https://techcrunch.com/2022/03/08/pony-ai-to-issue-recall-of-autonomous-driving-software/
https://www.therobotreport.com/pony-ai-agrees-to-recall-3-of-its-autonomous-vehicles/
https://datahub.transportation.gov/dataset/NHTSA-Recalls-by-Manufacturer/mu99-t4jn