杭州 --°C 消息 发布作品
hao1123

hao1123

当前位置:首页 > 科技 > 自动驾驶事故背后:技术瓶颈与伦理困境

自动驾驶事故背后:技术瓶颈与伦理困境

hao1123
hao11231793367301|2阅读

上个月跟一个做感知算法的朋友吃饭,他提到自己团队里有个工程师辞职了,理由是“不想再调那个永远调不完的corner case”。这话听着像段子,但在自动驾驶圈子里,几乎每家都有一摞类似的离职故事。外人看自动驾驶,看到的是发布会上的 demo 视频和融资新闻里的天文数字;里面的人看到的,是凌晨三点还在回放的激光雷达点云,是某个路口连续三天都过不去的测试车。

2自动驾驶事故背后:技术瓶颈与伦理困境

技术瓶颈这件事,得从“长尾”说起。行业里有个粗略的共识,自动驾驶系统处理常规场景的能力已经相当成熟,高速巡航、标准路口转弯、跟车刹停,这些跑得比多数新手司机稳。问题出在剩下那百分之几甚至千分之几的极端情况。一个塑料袋被风吹到路中间,人类司机瞟一眼就判断压过去没事,感知系统却可能因为形状不规则、运动轨迹诡异而犹豫。更麻烦的是,这些长尾场景没有穷举的可能。你收集了一百万个场景,第一百零一万个照样能让你翻车。Waymo 在凤凰城跑了那么多年,依然不敢把安全员彻底撤掉,原因就在这里。

另一个被低估的瓶颈是“可解释性”。现在的深度学习模型本质上是个黑箱,它做出一个决策,工程师只能看到输入和输出,中间怎么想的,说不清楚。这对功能安全是致命的。传统汽车工业讲究失效可追溯,一个刹车失灵,你能查到是传感器故障还是液压管路泄漏。但自动驾驶系统在某个瞬间为什么没识别出前方横穿的电动车,你没法拆开神经网络逐层检查。这种不可解释性直接卡住了监管审批的脖子——你让审批部门怎么给一个自己都说不清决策逻辑的系统发牌照?

伦理困境更麻烦,因为它压根不是技术能解的问题。最经典的当然是电车难题的变体:如果事故不可避免,系统该优先保护车内乘客还是行人?这个问题在哲学课上可以辩论三天三夜,但在工程上必须有一个确定的代码逻辑。更现实的是,不同国家的法律框架对这个问题给出的答案完全不同。德国前几年出了自动驾驶伦理准则,明确禁止基于个人特征进行歧视性选择,但实际操作中,系统在毫秒级做出的决策根本来不及套用任何伦理框架。你写进去的每一条规则,在真实事故场景里都可能变成荒谬的教条。

还有个很少被公开讨论的困境:数据偏差。自动驾驶系统的训练数据主要来自路测车队,而这些车队大多部署在气候温和、道路设施完善的发达国家城市。这意味着系统对雨天、雪天、非标准车道线、混***通流的认知天然不足。一个在旧金山跑得不错的系统,放到雅加达或者孟买,可能连路口都过不去。但事故不会只发生在训练数据覆盖的地方。当这些系统卖到全球市场,谁来为那些“没被训练过”的场景负责?这个问题背后牵扯的是技术公司的责任边界,也是监管的空白地带。

说到底,自动驾驶行业现在卡在一个尴尬的位置:技术已经足够好到让人兴奋,但远没好到可以撒手。资本要增长故事,监管要安全底线,公众要绝对可靠,而工程现实是,你永远在跟那百分之零点几的概率较劲。我那位辞职的朋友后来去了家做工业机器人的公司,他说至少那里的失败模式是确定的。这话听着有点丧,但可能正是这种对“确定性”的执念,才是自动驾驶真正落地前必须跨过去的那道坎。