近日,Uber自动驾驶测试车撞人致死事件引起了热议。这是全球第一例自动驾驶车辆致行人死亡的事故,从一方面来看,这件事会对无人驾驶正真的商业化落地产生巨大的影响,但从另一方面来看,在无人驾驶还处于发展的阶段,包括交通事故在内的许多问题似乎都很难避免。
不同于其他技术,自动驾驶人命关天,0.000001%的缺陷,都可能造成100%的伤害,此外,自动驾驶的车辆发生交通事故已经不是第一次了。除了Uber,特斯拉以及Google的无人车都曾发生过大大小小的交通事故。
所以自动驾驶不会是绝对安全、有保障的技术。
但是,用“Uber无人车撞人致死”事件来判定自动驾驶是否安全是不公平的!因为Uber不能代表最先进技术的发展水平。
谁能代表呢?我们来看看Navigant Research做的关于无人驾驶技术水平的排名,越靠近右上角,技术实力越强。
上图可以看出,领跑的是谷歌的Waymo(Google X事业部分拆成立的)和GM(收购Cruise)。而Uber位于第三梯队(和Tesla一样),设置排在了百度之后。
就在不久前,Waymo宣布无人车实际路测里程达到了500万英里(800万公里)——相当于绕地球地道跑了200圈。Waymo用一年的时间,创造了这个令人惊叹的数据,且没有发生撞人致死的事故。让当地很多普通居民感受到了无人驾驶出行的魅力——昼夜不停、全年无休。(题外话,Uber这次事件不知是否会影响Waymo的“无人驾驶出租车打车服务”计划。)
但值得一提的是,走在无人驾驶技术前沿的Waymo也不能保证无人驾驶可以避免车祸。因为它还存在着一些缺陷:
技术还不成熟:目前的无人驾驶汽车都是依靠摄像头、激光雷达以及其他的传感器来收集数据。但是,目前的技术还不是很完备,即使是摄像头,激光雷达能够探测到车前的物体,也不能保证百分百的有效识别。
道路状况复杂:汽车道路的复杂路况是难以预测的,就像车云之前体验特斯拉Autopilot2.0时提到的那样,车辆行驶过程中会遇到其他车辆Cut in的情况,而这时,前方车辆车尾没有完全进入传感器视线,传感器无法及时识别车辆,从而出现意外事故。
其实即使自动驾驶汽车技术足够成熟,可以保证自己不撞别人,但是能保证不被其他汽车撞到么?正如Uber此次事故的后续报道中美国警方表示那样,“事实非常清楚的是,根据受害人横穿马路的方式,无论是有人还是自动驾驶模式,要避免这起交通事故是极其困难的。”
完美的自动驾驶技术目前仍没有真正实现,其在安全性方面会带来一些问题在所难免。
虽然说自动驾驶引发的交通事故不可避免,但随着技术层面的提升,这种意外将会逐步减少。技术的提升往往会伴随着人类在法律、道德、伦理层面的思考,因而自动驾驶带来的难题同样无法绕开。
这次事件带来的另外一个问题是,人命关天到底是谁的责任。自动驾驶汽车出了事故,责任是属于汽车所有人?操作员?乘客?生产车厂商?还是AI算法科学家?程序员?这是个非常困难的问题,而且并没有相应的法规和立法。这个问题,深层次又涉及AI的伦理。
有意思的是,MIT的media lab搞了个挺有意思的实验平台Moral Machine:其在上面设计出了一些场景,让人来思考自动驾驶系统会作出如何的决策。
比如说下面第一个场景是,一个失控的自动驾驶系统,如果继续前行的话会造成5个婴儿死亡,转左的话会造成2名乘客死亡,那算法应该如何作出决策?
第二个场景是自动车直行造成一部分行人受伤,左转的后果不确定(有可能造成行人伤亡,有可能无恙),那算法又该作出怎样的决策呢?
总体而言,面对人类长时间无法解决的道德两难问题,即便是具有自主学习能力的人工智能在短时间内也很难找到完美的解决方法。而这种从心理学伦理学社会学出发,也是一条路子。
总的来说,AI造成伤亡事故,和AI战胜人类最优秀的围棋选手,都是发展过程中的必然。其造成的影响,暴露出的问题,长远来看还是对AI的发展,和人类社会针对AI的立法伦理都有积极推动意义。
随着自动驾驶技术的发展以及互联网车内的深入,一方面强化了驾乘的体验,另一方面也悄悄为黑客开了一道“后门”,车辆暴露出越来越多的缺陷与漏洞,随之而来的黑客攻击将会成为自动驾驶时代另一个无法避免的问题。
自动驾驶主要由环境感知、智能决策、运动控制三种核心技术组成,这三种技术都需要改变传统汽车的架构和功能,而这些修改也同时增加了可攻击的目标。
比如黑客可以攻击雷达、摄像头等任何环境感知节点造成传感器误报引起安全事故。黑客还可以攻击自动驾驶汽车的核心处理器,只要攻破了中央处理器,就可掌握整车所有控制权。
除了单一的具有自动驾驶功能的汽车,未来众多自动驾驶车辆组成的交通系统也会是黑客攻击的重点目标。因为这个系统将会是一个高度协同的有机整体,而在这个整体中的每个个体都相互连接,黑客只需影响整体中一个个体的正常运行,就可以使整个系统瘫痪。
虽然自动驾驶有着似乎无法回避的问题,这些问题也引来了不少的争论,让人产生了不少的质疑,但这些并不等同于将这项技术划上了句号。
人类的不断进步依靠的就是科技的发展和进步,而新事物的演进和成熟,必然伴随的这一系列阵痛。当年飞机从测试到成熟的几十年中,被摔的飞机以及丧生的飞行员和乘客成千上万,但是这不是让大家放弃飞机这一事业发展的理由!
科技技术的出现是效率的提升,是将人类从某种类型的劳动中解放出来。自动驾驶同样如此,它可以让人在车空间中得到解放,让人有更多的时间做一些更具开创性的工作。虽然现阶段的自动驾驶技术仍处于一个早期阶段,还有不少的问题,但是随着技术的逐步提升,自动驾驶会逐步得到完善,我们有理由相信,自动驾驶会有一天让那些反对者销声匿迹,在将我们解放的同时改变我们的出行方式。
(综合整理自知乎、车云网、搜狐科技)