这阵子美国那边闹了个不小的动静，自动驾驶的车竟然冲到了轨道上去。事发地点在亚利桑那州的菲尼克斯市区。当时一辆谷歌旗下的Waymo自动驾驶出租车开着开着就偏了道，直接进了轻轨专用轨道里头。从现场拍的视频看，车在路中央停住的时候，后头已经有轻轨列车开过来了，车里的乘客吓得赶紧跑。幸亏有运营方及时去处理，折腾了大概15分钟吧，交通才慢慢恢复正常，好在没人受伤也没耽误多少时间。 后来初步查了下原因，说是那个路段正好在修路，而且那段新铺的轻轨轨道也就开了一年不到。Waymo那边也回应说，他们的车上装了29个高清摄像头和好多套传感系统，每天的行车路线和算法都在不停更新，现在正配合有关部门看看到底哪儿出了岔子。菲尼克斯谷线地铁公司也承认了这事，说他们立马启动了应急预案，通过调度调整尽量减少了对公共交通的影响。 亚利桑那州立大学有个叫安德鲁·梅纳德的教授专门研究新兴技术。他觉得这种情况挺典型的，属于那种“边缘案例”。意思就是训练数据没那么全，碰到了以前没遇到过的特别极端的场景。他觉得在平常那种大家都守规矩的环境里开自动驾驶还行，但要是碰上临时施工、突然有障碍物这些乱七八糟的动态变化，系统那点机械的决策方式就不行了，还是得靠人类驾驶员那种凭经验和直觉的灵活劲儿来应变。 梅纳德教授还强调说，技术系统得知道自己的边界在哪儿。现在的最大挑战就是怎么让机器弄明白：什么时候该自己继续开，什么时候得赶紧喊人来帮忙接手。值得一提的是这事儿发生在自动驾驶技术开始大范围商业化的时候。Waymo早就在菲尼克斯、旧金山这些地方扩大了全无人驾驶出租车的服务范围了，好多企业也都在全球各地搞测试。现在产业发展这么快和技术迭代这么紧凑之间的那种紧张感越来越明显。 一方面路测的数据多了确实能让算法变得更聪明；另一方面每出一次这种不按套路出牌的事儿，都有可能把公众对新技术的信任感给动摇了。从技术发展的角度看，自动驾驶主要就是靠“感知-决策-控制”这么一个闭环来运作的。这次事故估计就是在这好几个环节耦合出了问题：要么是环境感知系统没认出那条新轨道的边界；要么是在重新规划路线的时候没把钻到轨道里去的危险评估足；再或者是控制执行的时候也没启动紧急避险的协议。 深层矛盾在于现实世界的可能性无穷无尽，但用来训练的数据却是有限的。而道路安全又是不能出半点岔子的，这就把这种差距带来的风险给放大了。现在业内的做法一般都是搞“安全员监控+远程协助+冗余系统”这几层保护网。不过随着测试的车越来越多、跑的地方也越来越复杂，光靠这套技术闭环的防控体系压力就有点大了。 有专家就建议说，应该建个“城市数字孪生+实时高精地图”的动态基础设施协同网络。通过车路协同来减轻单车上的智能系统的决策负担。自动驾驶作为一个颠覆性的技术，发展肯定得在技术成熟度和公共安全之间来回调整好多次。这次冲到轨道上去的事儿虽然没出大事儿，但就像面镜子一样照出了问题：人工智能在实际世界里落地得直面的核心问题就是怎么在不确定的环境里建起靠谱的安全冗余；还得在算法进步和社会接受度之间找到平衡。 技术进步从来不是一帆风顺的路。每碰到这种“边缘案例”，其实都应该当成是完善安全边界的机会。以后要想让技术创新真正对社会有好处，就得多用更严格的测试标准、更透明的信息公开机制还有跨领域的安全伦理共建才行。