前阵子刷到小米 SU7 那起事故的新闻,夜里三点多翻来覆去睡不着。三个考编的姑娘,就因为车子避让不及撞了隔离带,最后没能逃出来。评论区吵翻了天,有人骂车企设计有问题,有人说驾驶员不该依赖辅助驾驶,但没人提一个更扎心的问题 —— 要是当时路上有行人,车子会怎么选?
说实话,以前总觉得 “电车难题” 是哲学家瞎琢磨的玩意儿,离咱们远得很。直到去年看到 Uber 测试车撞死人的报道,才发现这事儿早就砸到眼前了。那车明明开着自动驾驶,安全员也坐在驾驶座上,结果还是把过马路的行人撞了。最后追责的时候,车企说安全员没及时干预,安全员说系统没给够反应时间,到最后就赔了点钱了事。你说这叫什么事儿?
前几天跟做算法的朋友喝酒,他说现在车企都在躲这个问题。麻省理工不是做过个 “道德机器” 实验嘛,问大家紧急情况保乘客还是保行人,结果东西方人选得完全不一样。他说他们公司根本不敢把明确的选择写进程序,怕被骂偏心,只能让系统优先刹车,可刹车有时候根本来不及啊!
我想起有次坐朋友的自动驾驶车,在亦庄那边赶上暴雨,车子突然减速打了个方向。后来才知道是系统认错了标线,跟信号灯数据冲突了。当时我后背全是汗,要是旁边有行人和护栏,这车会不会直接替我做决定?朋友还笑我胆小,说 L2 级别的系统还是人负责,可真到那一两秒的功夫,人能反应过来吗?
有回参加汽车论坛,法学教授和车企的人吵起来了。教授说责任得明确,要么车企担着,要么驾驶员担着。车企的人急了,说现在技术还没到那步,总不能让算法来判生死吧?其实我特理解车企的难处,要是程序设定保行人,谁还敢买自动驾驶车?可要是保乘客,路上的行人又该怎么办?
前几天看哲学家王球的采访,他说这事儿根本不是技术能解决的。以前开车出了事,是人的错,现在变成机器做选择,咱们心里那道坎过不去。就像有人说的,以前是 “我撞了人”,现在变成 “车选了撞人”,这感觉能一样吗?
昨天坐出租车,司机师傅跟我唠,说他最怕以后被自动驾驶取代。我问他怕丢工作啊?他说不是,是怕哪天在路上走,被电脑算成 “可以牺牲的一方”。这话听得我心里一揪 —— 咱们每个人出门要么是乘客,要么是行人,谁也不想变成算法里的一个数字吧?
现在车企都在吹 “全自动驾驶近在眼前”,可连最基本的伦理问题都没解决。就像那道无解的题,写满了 “生命” 两个字,却没人敢写下答案。或许真像维纳说的,咱们得跟技术重新定个契约,但这契约里,总不能把 “选谁活下来” 这种事交给机器吧?
上次跟我妈聊起这事儿,她听得直皱眉:“花钱买车还得冒生命危险?那不如坐公交。” 其实老太太说的最实在,技术再先进,要是连谁该受保护都搞不清,再快的加速、再炫的功能,不都是虚的吗?