数字法治|郑志峰: 论自动驾驶汽车被动接管规则

2023-08-06

自动驾驶汽车与人类的关系是一个值得探讨的、引人入胜的话题。随着科技的发展,传统汽车纯粹的工具与客体地位发生变化,机械时代人与车辆简单的“控制与被控制”关系过渡到分享控制权的互动情境。在汽车自动驾驶场景下,究竟是人类与机器共享驾驶控制权,还是由机器独自完成驾驶任务,是一个亟待回答的问题。从当前有关自动驾驶汽车的法律法规、国际公约、政策指南来看,立法者的态度倾向于保留人机协作,特别是针对有条件自动驾驶汽车(L3级),几乎都分享着一条共同的原则:人类驾驶员需要在紧急情况下随时准备接管汽车。易言之,有条件自动驾驶阶段存在被动接管规则,人类用户依然保留对自动驾驶系统的监督,以便紧急情况下接管汽车的运行。

被动接管规则的存在对于未来人车关系的塑造意义重大,影响着生产者、人类用户的权利义务责任,决定着自动驾驶汽车的产品形态,甚至左右着整个自动驾驶汽车产业的发展路线,是自动驾驶汽车大规模商业化落地必须解决的课题,具有现实的规范意义。例如,围绕自动驾驶汽车的侵权责任问题,许多学者都特别论述了人类用户在紧急接管阶段的责任难题及规则应对,而这一切都有赖于被动接管规则本身的合理性得到证明。但遗憾的是,我国学界对于被动接管规则这一基础性命题尚未给予足够的重视,仅部分学者零散地对被动接管规则提出质疑,缺乏对被动接管规则背后法理的深入系统分析。基于此,本文对自动驾驶汽车被动接管规则进行专门探讨,以便为法律监管以及行业发展提供智力支持。

一、被动接管规则的规范考察

(一)被动接管规则的规范梳理

从域外立法来看,被动接管规则得到较为普遍的承认,这与国际自动机工程师协会(SAE International)发布的汽车自动化分级指南(以下简称“SAE分级指南”)密切相关。2014年1月,SAE分级指南发布,将自动驾驶分为有条件自动驾驶(L3级)、高度自动驾驶(L4级)以及完全自动驾驶(L5级)三个阶段。在有条件自动驾驶情形下,自动驾驶系统承担动态驾驶任务,人类用户在自动驾驶系统启动后扮演备用接管员(fallback-ready user)的角色,在收到自动驾驶系统发出的介入请求或者出现相关系统故障时,需及时接管汽车的运行。2016年3月,《维也纳道路交通公约》顺利通过修订,第8条增加一款明确车辆系统需要能够被驾驶员接管或者关闭。2017年6月,德国通过《道路交通法第八修正案》,被动接管规则首次入法。其中,第1a条第2款规定自动驾驶汽车必须具备如下功能:“能够随时被驾驶人接管或者中止”,“能够确定需要驾驶人重新人工操作机动车的情形”以及“能够通知驾驶人——通过视频、音频、触觉等其他可知方式——重新人工控制机动车的需求,同时留有足够的时间缓冲完成这一接管”。而第1b条进一步明确“驾驶人应当负有义务及时重新接管机动车:第一,如果高度或者完全自动驾驶系统警示他这么做;第二,如果情况非常明显,他意识到或者应当意识到使用高度或者完全自动驾驶功能的原本目的落空时”。至此,德国《道路交通法第八修正案》从自动驾驶车辆和驾驶人两个角度明确了被动接管规则的内容。

国内层面,被动接管规则最初出现在有关自动驾驶汽车道路测试的法律规范中。2018年《智能网联汽车道路测试管理规范(试行)》第28条规定有条件自动驾驶需要驾驶人提供适当的干预,明确了被动接管规则的存在。随后,2021年《智能网联汽车道路测试与示范应用管理规范(试行)》延续了这一规定。2021年3月,公安部发布《道路交通安全法(修订建议稿)》征求意见,第155条第2款也规定了被动接管规则,“具有自动驾驶功能且具备人工直接操作模式的汽车开展道路测试或者上道路通行时”,“驾驶人应当处于车辆驾驶座位上,监控车辆运行状态及周围环境,随时准备接管车辆”。2021年7月,工信部发布《关于加强智能网联汽车生产企业及产品准入管理的意见》,同样认可了被动接管规则的存在,对于“在特定条件下需要驾驶员执行动态驾驶任务的”自动驾驶汽车,“应具备识别驾驶员执行动态驾驶任务能力的功能”。2021年8月,我国发布推荐性国标《汽车驾驶自动化分级》,基本延续了SAE分级指南的做法,重申有条件自动驾驶阶段的人类用户在紧急情况下需要承担接管职责。随后,2022年出台的《深圳经济特区智能网联汽车管理条例》第3条、第35条也规定了被动接管规则。此外,2022年出台的《自动驾驶汽车运输安全服务指南(试行)(征求意见稿)》《道路机动车辆生产准入许可管理条例(征求意见稿)》《关于开展智能网联汽车准入和上路通行试点工作的通知(征求意见稿)》,背后都体现了落实被动接管规则以确保汽车运行安全的底层逻辑。

(二)被动接管规则的规范意义

被动接管规则不仅关系到人机之间驾驶控制权的分配,而且具有现实的规范意义。

1.对于人类用户的规范意义。被动接管规则的存在,意味着人类用户需要承担接管职责。这与主动接管规则是不同的。根据SAE分级指南以及我国《汽车驾驶自动化分级》规定,所谓的主动接管规则,是指人类用户可以随时解除自动驾驶系统的职责,重新取得驾驶员的身份与驾驶权,承担动态驾驶任务。虽然两种接管规则都涉及人机之间驾驶控制权的分配,但存在本质区别。主动接管规则是授权性规则,人类用户可以行使接管的权利,也可以放弃该权利,目的是为人类用户保留手动驾驶的自由和可能。而被动接管规则是义务性规则,在自动驾驶系统发出接管请求时,人类用户必须履行接管职责,否则需要承担相应的责任,目的是弥补机器智能的不足,确保汽车运行安全。具体来说,被动接管规则起码对人类用户提出如下要求:

首先,接管能力。被动接管规则意味着人类用户需要确保自己具备接管的能力和状态,如必须取得驾照、不能醉酒、不能脱离驾驶位等。2022年英国《自动驾驶汽车:联合报告》指出,有条件自动驾驶汽车的人类用户需要通过培训取得驾照,没有驾照、驾照被吊销,或者饮酒、服用国家管制的精神药品或者麻醉药品,或者患有妨碍安全驾驶机动车的疾病,或者过度疲劳影响接管能力的,都不应当使用有条件自动驾驶汽车,否则属于违法驾驶。

其次,接管职责。这是被动接管规则最为核心的内容。根据SAE分级指南以及我国《汽车驾驶自动化分级》的规定,人类用户不负担主动识别接管需求的义务,原则上由自动驾驶系统识别并发出接管请求。与此不同的是,德国《道路交通法第八修正案》第1b条规定,如果情况非常明显,人类用户意识到或者应当意识到使用自动驾驶功能的目的已经落空,那么此时也会产生接管需求。这意味着人类用户还需要负担识别义务。一旦出现接管需求,人类用户应当采取妥当的方式及时接管。

最后,非接管期间的警觉义务。由于被动接管规则的存在,即使在非接管期间,人类用户也需要负担一定的警觉义务,以便随时履行接管职责。对此,我国《汽车驾驶自动化分级》规定,有条件自动驾驶阶段的人类用户,可将视线转移至非驾驶相关的活动,但应保持一定的警觉性,对明显的外部刺激(如救护车警笛等)进行适当的响应。德国《道路交通法第八修正案》第1b条规定,驾驶人在自动驾驶汽车运行过程中,可以从周围交通和机动车控制中转移注意力,但必须保持足够的警觉,以便能够随时承担接管义务。《深圳经济特区智能网联汽车管理条例》更是严阵以待,要求驾驶人必须“监控车辆运行状态和周围环境,随时准备接管车辆”。

2.对于生产者的规范意义。由于被动接管规则的存在,生产者生产的自动驾驶汽车必须具备相应的功能,否则产品存在设计或者制造缺陷。这些功能至少包括:第一,识别接管需求,包括识别自动驾驶系统是否满足设计运行范围以及车辆是否发生故障;第二,发出接管请求,自动驾驶系统应当以合理的方式向人类用户及时发出接管请求,德国《道路交通法第八修正案》第1a条规定,自动驾驶系统需能够“通过视频、音频、触觉等其他可知方式”发出接管请求,且必须为人类用户“留有足够的时间缓冲完成这一接管”;第三,识别人类用户是否具备接管的条件和状态,包括识别人类用户有无驾照,是否有醉酒、疲劳等影响接管的情形,以便做好让渡驾驶职责的准备;第四,在发出接管请求后,自动驾驶系统还需继续执行一段时间的动态驾驶任务,以便留给人类用户足够的反应时间来实施接管;第五,在发出接管请求后,如果人类用户未响应接管请求,那么自动驾驶系统需要适时启动后备响应方案,以确保汽车运行安全,对此,我国《汽车驾驶自动化分级》明确规定,在发出接管请求后,如果人类用户未响应,自动驾驶系统应“适时采取减缓车辆风险的措施”;第六,自动驾驶汽车必须配备方向盘、油门、刹车等手动驾驶装置,以便人类用户履行接管职责,承担动态驾驶任务;第七,生产者还负担警示和告知义务,确保人类用户了解接管风险以及知晓如何履行接管职责。

二、被动接管规则的合理性假设

对于被动接管规则的产生,可以从技术、行业、伦理三个方面寻求其合理性基础。

(一)保障汽车运行安全

被动接管规则的存在,首先出于运行安全的考虑。尽管机器智能从各方面都优于人类驾驶员,但并不能保证自动驾驶汽车绝对安全。

第一,设计运行范围的限制。与人类驾驶不同,依靠机器智能的自动驾驶系统只能在设计运行范围内工作。根据《汽车驾驶自动化分级》的规定,设计运行范围是指自动驾驶系统设计时确定的适用于其功能运行的外部环境条件。设计运行范围至少涉及基础设施、驾驶操作限制、周边物体、互联、环境条件和区域六大要素,每个要素都有相应的属性、分类和赋值。只有当设计运行范围的条件全部满足时,自动驾驶系统才能开启并持续正常运行。一旦超出或者不满足设计运行范围的条件,如天气骤变下暴雨、进入交通管制区域等,自动驾驶系统就无法正常工作。考虑到自动驾驶系统本身存在系统边界,无法胜任的情况始终存在,人类驾驶员及时介入取得驾驶权仍有必要。

第二,机器智能的天然局限。首先,现实世界中,对于自动驾驶汽车非常陌生,但人类驾驶员习以为常的情况时有发生,无论自动驾驶技术如何发达,都不可能完全应对。例如,道路前方发生交通事故,车辆需要跨过道路中间的双黄线才能继续通行。由于自动驾驶系统被要求严格遵守交通法规,很可能无法应对。此时,要求人类用户接管驾驶系统可以让出行效率最大化。其次,驾驶活动不仅是简单的物理计算,往往还涉及人与人之间复杂的“社交”行为。人类驾驶员常常会通过手势、眼神、点头等与外界进行交流,一个简单的挥手、微笑就可以传达出先走、礼让、感谢等意思。但这些交流对于机器智能来说是异常困难的事情。最后,机器智能无法处理突发事件。即便驾驶过程的绝大部分都是思维僵化且可以预测的,仍然有可能产生一些突发事件。突发事件不常见且难以预测,却可能导致灾难性后果。人类通常会依赖所谓的“本能”来应对生活中的突发事件,这种“本能”实际上蕴含着人类智能中尤为难以复制的大量能力。在应对突发事件时,自动驾驶汽车的机器智能就会捉襟见肘。基于此,要求人类用户在紧急情况下承担接管职责,可以弥补机器智能的不足。

第三,风险应对的冗余设计。汽车的运行事关公共安全,一旦自动驾驶系统出现问题,可能造成严重的损害后果。自动驾驶汽车的行驶场景包括已知安全、未知安全、已知危险和未知危险四类,行业的目标是尽可能扩大已知安全的范围,减少已知危险和未知危险的区域,直到剩余风险在可接受范围内。相较于传统汽车,自动驾驶汽车的已知危险与未知危险区域因为算法系统、传感器等各种软件、硬件的引入变得更加复杂。无论自动驾驶技术如何成熟,未知风险区域永远存在。为此,自动驾驶汽车有必要引入冗余设计(redundant design),以应对一切可能发生的安全风险。民航飞机极高的安全性离不开冗余设计的思维,如发动机、燃油管、液压系统等关键物理与软件系统都有两重甚至三重冗余设计,同时至少配备两名飞行员。对于自动驾驶汽车来说,为了应对已知和未知的安全风险,同样有必要在自动驾驶系统之外,将人类用户作为后备接管员,以备不时之需。

第四,发挥人机协作的优势。即使自动驾驶技术足够安全,人机协作也是更好的方案,可以实现人类智能与机器智能的互相补足。有专家指出,最优模式就是人类与机器共享方向盘,并且人类要维持主人的地位,机器只提供仆人般的辅助。例如,麻省理工学院的机器人学家大卫•敏德尔(David A. Mindell)就坚信最好的人工智能软件一定要服从人类领航员或驾驶员,人与机器组合后发挥的威力要优于两者单打独斗。期待机器人能够完全自主运行不过是一种乌托邦式的想法。自动化的机器确实能够完成人类从事的一部分工作,能够在特定时间段内自主运行,但完全脱离人类指示独立运行的机器是没有意义的机器。理论上,人机协作的观点有其独特的吸引力:将人类的最佳能力与机器的最佳能力精心结合在一起,可以发挥各自最强的技能,就如同挑出各个位置的最佳职业足球员组成一支足球梦之队一样。实践中,人机协作在工业、医疗、军事等领域都产生了出乎意料的效果。对于自动驾驶汽车来说,人类用户的加持只会有益无害:如果自动驾驶技术十分成熟,那么人类用户可以坐享其成,不会影响机器智能的发挥;反之,如果自动驾驶技术不成熟,那么人类用户可以施加援手,为汽车运行安全兜底。

(二)满足行业发展需求

从自动驾驶汽车行业发展来看,被动接管规则似乎也有存在的合理性。

第一,符合渐进式发展路线。被动接管规则实质是自动驾驶汽车行业发展路线的一种选择。根据自动驾驶汽车的发展是必须分阶段循序渐进还是可以一次性开发到位,可分为跨越式和渐进式两种不同的发展路线。跨越式发展路线追求一步到位,主张自动驾驶汽车的发展应当由传统汽车直接过渡到高度自动驾驶或者完全自动驾驶,跳过有条件自动驾驶阶段,被动接管规则自然不存在。渐进式发展路线则认为自动驾驶汽车的发展应当一步一个脚印:传统汽车首先向驾驶辅助发展,随后进入有条件自动驾驶,最后再向高度自动驾驶和完全自动驾驶发展。这种发展思路主张,完全替代人的高级智能是无限递进的过程,人机共驾是非常重要的,是自动驾驶不可逾越的阶段。被动接管规则理应存在。

相较于跨越式发展路线,传统汽车公司认为在现有基础上稳步升级的渐进式方案更为稳妥,自动驾驶汽车必须经过有条件自动驾驶阶段,才能向更高级别迈进。这种发展路线不仅能够让自动驾驶技术有更多的成熟时间,还能最大程度地减少对现有汽车行业的冲击,确保传统汽车公司能够顺利转型。与此同时,决策者似乎也倾向于支持渐进式发展路线,SAE分级指南、我国《汽车驾驶自动化分级》以及德国《道路交通法第八修正案》等都暗含着支持渐进式发展路线的立场。

第二,符合推动自动驾驶汽车商业化的需求。安全是自动驾驶汽车发展的关键,也是其商业化落地的最大障碍。自动驾驶汽车究竟需要达到何种程度的安全才允许上路?在我们接受或鼓励自动驾驶汽车应用之前,自动驾驶汽车究竟要比人类安全多少?这些棘手的问题最终不是技术问题,而是政策问题。要求自动驾驶汽车处理每一个可能想到的驾驶场景,非但是不可能的,还会引起难以理解、难以管理并且最终不利于安全的复杂性问题。执着地追求完美可能会阻碍自动驾驶系统的开发和部署,必须要寻求一个相对合理的安全概念。2022年8月,英国发布《互联和自动出行2025:在英国释放自动驾驶汽车的效益》指出,自动驾驶汽车应当达到一位“能干且谨慎”(competent and careful)驾驶员同等水平的安全性,同时要高于疲劳、分心或者醉酒等一般驾驶员(the average human driver)。那么该如何确保自动驾驶汽车达到这一安全标准呢?一个较为保险的方法是将人类用户作为自动驾驶系统的备用接管员,这样至少理论上可以确保自动驾驶汽车的安全水平不会低于传统汽车,继而推动自动驾驶汽车早日商业化落地与普及。

第三,符合自动驾驶汽车的市场需求。汽车自动化程度越高,生产者承担责任的可能性越高。从生产者角度来看,相较于高度自动驾驶汽车与完全自动驾驶汽车,有条件自动驾驶汽车显然是更为适合商业化的产品:生产有条件自动驾驶汽车的技术难度似乎更低,同时被动接管规则的存在意味着人机共同承担驾驶职责,不仅可以借助人类用户来预防事故的发生,还可以部分转移承担事故责任的成本。从消费者角度来看,被动接管规则也并非不可接受。人类驾驶汽车已经有一百多年的历史,人机之间驾驶控制权的转移最好是一个逐步发生的过程。被动接管规则为人类用户保留了手动驾驶的参与感,而履行接管职责仅限于紧急情况,且有自动驾驶系统发出警示来提醒接管,这对人类用户并非过于沉重的负担。何况装配辅助驾驶功能的汽车已经广泛存在,人类用户早已习惯人机协作,能够在驾驶职责的保留与解放之间找到平衡。

(三)符合人类中心主义

自动驾驶系统与人类用户关于驾驶控制权的分配是历史上人机关系的一个缩影。被动接管规则意味着人类用户依然主导驾驶活动,始终控制着机器,符合人类中心主义的伦理立场。

第一,维持人类对于机器的控制。人类中心主义首先意味着人类控制机器,而非机器控制人类,这直接关系到人类自身的安全。过去一百多年,人们通过手动驾驶控制着汽车这一钢铁猛兽,确保机器始终服从于人类。自动驾驶汽车出现后,驾驶控制权逐渐由人类向机器转移,人类对于机器的控制力不断减弱,控制带给人类的安全感也随之降低。特别是面对具有强大的自主性与学习能力的自动驾驶汽车等人工智能,人类用户在让渡控制权的同时,也在无形中为“人弱机强”的关系格局推波助澜,可能导致技术失控。一旦人工智能脱离人类的控制,很可能会危及人类自身的安全。

面对自动驾驶技术带来的人机驾驶控制权的转移,被动接管规则可以防止人类用户被自动驾驶系统彻底取代,维持人类对于机器的控制。一方面,被动接管规则意味着人类用户继续保有驾驶员的身份,仍然承担着驾驶职责,承袭机械驾驶时代的技术底色。另一方面,被动接管规则在施加职责的同时,也在赋予人类用户权力,意味着人类用户对于自动驾驶系统处于主导地位。正常情况下,自动驾驶系统就像是人类的学生,随时学习着人类的驾驶习惯,为人类提供贴心的服务,人类让它去哪,它就得去哪。而一旦遇到极端情况,自动驾驶系统就要提醒人类收回控制权,就好像一个小学生做作业,真要遇到特别难的题目还要去问老师一样。如此一来,人类对于机器的控制依然如故,一切处于可控范围。

第二,保留人在环中的重要意义。智能机器发展史上一直存在两种不同的发展方向:一种是替代人类,另一种是增强人类。这两种流派相互竞争,各自拥有独立的传统、价值观和优先顺序。一个核心争议是如何对待人在环中,即是否保留人在系统中的位置。将人类设计“进入”还是“剔出”系统的争论不仅是技术问题,还是伦理问题。被动接管规则坚持人在环中,让人类用户与自动驾驶系统共享驾驶控制权,更加符合人类中心主义的伦理准则。

对于自动驾驶汽车来说,主张机器完全取代人类用户的好处在于一劳永逸,由机器承担全部的驾驶职责,人类用户变成纯粹的乘客。但这种设计是有代价的,将驾驶控制权彻底让渡给机器后,人类用户的生命健康也就完全脱离自身的控制,只能依赖于机器。纵使自动驾驶系统十分安全,排除人类用户的参与也是存在问题的:机器智能在取代人类智能的同时,很可能会带来贬损人之尊严的结果。对人之尊严的保护要求尊重人的自我决定,剥夺人类自我决定的可能性就是对人之尊严的侵害。一旦人类将决策权完全让渡给机器,丧失免受机器决策的自由,人的主体性将随之消解。保护个体的自我决定,首先需要保护参与决定的机会。被动接管规则将人嵌入决策环中,人类用户对汽车运行过程中涉及生命、健康等重大利益的自我决定之可能性得以保留。

与此同时,车与车交互的背后是人与人的互动。虽然自动驾驶系统可以对速度、位置、距离等进行精准计算,但其往往不能看到或理解更宏大的社会图景,因此,人类的判断对于识别自动驾驶系统潜在的盲点和偏见非常关键。如果将驾驶活动的决策权力彻底交给机器,有可能使这些活动丧失最根本的人性,甚至使我们放弃以人为中心的世界观。因为机器完全从理性的角度进行决策,而过度的理性反而可能导致非人性的结果。例如,在面对电车难题等两难困境时,人类驾驶员往往会考量各种伦理因素,不是简单地趋利避害,常常出现牺牲自己拯救他人的善举。自动驾驶系统只会计算事故后果的轻重,遵循纯粹的物理和计算规则,最终的决策很可能会违反人性。总之,面对机器驾驶的崛起,人类参与得越少,能够施加影响的机会就越少,也就越没有能力去改变这些实体努力的方向以及它们建立的目标。被动接管规则坚持人在环中,保留人类参与决策的机会,确保自动驾驶汽车符合人类中心主义的价值取向。

三、被动接管规则的合理性质疑

尽管被动接管规则看似有存在的合理性,但让人类用户在紧急情况下承担接管职责,不仅无法保障汽车运行的安全,而且不符合行业发展的趋势,实属违反人性的设计。

(一)汽车运行安全的驳斥

机器智能的安全不足非但不能证成被动接管规则的正当性,并且让人类用户在紧急情况下接管极度不安全。

第一,对机器智能不足的认识。根据SAE分级指南以及我国《汽车驾驶自动化分级》的规定,只有完全自动驾驶汽车没有设计运行范围的限制,有条件自动驾驶、高度自动驾驶皆存在设计运行范围的限制,那么为何被动接管规则仅存在于有条件自动驾驶?显然,被动接管规则存在与设计运行范围的限制没有必然关系。同样,所有自动驾驶汽车都可能存在系统故障的客观风险以及机器智能的技术限制,即使是高度自动驾驶汽车和完全自动驾驶汽车,也无法保证绝对安全,为何它们不需要配备被动接管规则呢?理论上的唯一解释是,相较于高度自动驾驶与完全自动驾驶,有条件自动驾驶阶段的技术不够成熟,没有达到足够的安全程度,故需要人类用户弥补机器智能的不足。

然而,这种解释起码存在两点疑问:一是自动驾驶汽车分级与自动驾驶系统的能力评价并非一回事,更不能与自动驾驶汽车的安全水平画等号。影响自动驾驶汽车安全水平的因素包括软件、硬件等等,不能简单地认为自动化级别高的系统就一定比级别低的系统能力更强、安全水平更高。既然高度自动驾驶汽车并不必然比有条件自动驾驶汽车更加安全,那么为何高度自动驾驶无须配备被动接管规则呢?二是假如认为有条件自动驾驶汽车不够安全,那么当更加安全的高度自动驾驶汽车能够是产时,前者难道不存在设计缺陷吗?又是否应当退出市场呢?显然,以机器智能的安全不足来论证被动接管规则的合理性缺乏说服力。

第二,人类用户接管并不安全。首先,对于人类用户而言,“紧急情况下接管汽车”并非一项合理的义务,超出了正常人的反应速度。当人类用户长期信任自动驾驶系统后,很难短时间内重新回到驾驶员的角色。其次,被动接管规则意味着人类用户需要全程承担一定的警觉义务,这违反人类的生理本能。人类难以应对如此枯燥的工作,特别是对于那些长时间的驾驶活动。2018年,一辆Uber公司的自动驾驶汽车在道路测试期间导致一名行人死亡,事故发生时车内的安全员正在低头看平板电脑,完全没有注意到过马路的行人。这足以证明,即使受过专业培训负有全程监督职责的安全员,也难以保证不分心走神。最后,长期不从事驾驶活动,用户的驾驶技能会逐渐生疏,贸然要求接管只会徒增事故风险。手动驾驶是一项要求高度熟练的活动,并且需要持续练习以保证熟练度。然而,自动驾驶汽车必然会大幅减少人类驾驶员保持和提升驾驶技能的时间和机会,导致驾驶技能退化。总之,自动驾驶汽车如果没有完全的自主能力,让人类用户随时待命只会提供一种虚假的安全感,实际却是不安全的。

第三,机器智能更加安全。首先,自动驾驶系统更加可靠。相较于人类用户,自动驾驶系统更适合承担接管职责,它们不会疲惫、醉酒、分心,全程专注于监督和执行驾驶任务,能够及时响应每一次接管请求。其次,自动驾驶系统更具备接管能力。汽车自动驾驶正是因应人类手动驾驶的危险而出现。依靠遍布车身的各种传感器、执行器,自动驾驶系统视野更加开阔,决策更加迅速精准,同时还能剔除人类用户的惊慌、恐惧等各种生理情绪,更加理性地应对紧急情况。再次,自动驾驶系统接管更加高效。由于生理限制,人类用户履行接管职责需要一段合理的缓冲时间。但面对紧急情况,任何迟延都可能付出生命的代价。最后,自动驾驶系统自行接管也是完全可能的。我国《汽车驾驶自动化分级》就充分考虑到了人类用户不响应接管请求的情形,要求自动驾驶系统需“适时采取减缓车辆风险的措施”,以确保车辆安全。这意味着,在紧急情况下,自动驾驶汽车并非必须由人类用户接管不可,由自动驾驶系统自行应对在技术上完全可行。

第四,人机协作不适合驾驶活动。自动驾驶模式一旦开启,人类用户会本能地转移注意力,根本不可能集中精力去监督机器的运行,更难以在突发情况下重新投入驾驶任务中。人类的先天心理机制决定了其难以一直保持思想集中。这就是“警戒递减”(vigilance decrement)现象。与此同时,人机协作看似非常合理,但将关键任务同时交给两方,可能会引发“责任分散”(split responsibility)的危机:负责完成任务的两方都理所当然地认为遗漏一些事项不要紧,对方会弥补错误,反而导致灾难性事件的发生。例如,2009年,法国航空447号坠机导致228人遇难。事后通过分析黑匣子发现,问题出在由自动驾驶模式向机组成员转交控制权的空当。在飞行中,飞机的自动驾驶软件因为被冰覆盖意外关机了。机组成员还同往常一样处于困倦的状态中,突然被召唤回来控制飞机,接二连三地犯下致命错误,最终导致坠机事故。人机共驾同样不安全,人类用户以为自动驾驶系统值得信赖,而自动驾驶系统又假设人类用户会随时接管,两者相互指望,徒增风险。

(二)产业发展需求的辨析

从产业发展趋势来看,被动接管规则没有合理性,跨越式发展路线更加符合市场的需求。

第一,渐进式发展路线并不合理。一方面,在过去一百多年里,汽车安全每一次有效的重大改进都是通过减少人类操作来克服人类驾驶的缺点。在逻辑上,只有完全移除人类手动驾驶才能获得终极安全。然而处于过渡状态的有条件自动驾驶的本质仍然是人机共驾,不符合汽车安全发展的历史趋势。越来越多的研究人员已经认识到,自动驾驶汽车在紧急情况下返回人类驾驶模式也许根本无法解决问题。另一方面,有条件自动驾驶并不是迈向高度自动驾驶、完全自动驾驶的必经阶段。业界有观点就指出,从“人机共驾”逐渐进化到L4级自动驾驶汽车的路线,可能在某一时刻就走不下去了,进而会被彻底抛弃,根本不可能进化到L4、L5级。用创新理论之父熊彼特的理论来说就是,“无论你把多少辆马车相加,都不能造出一列火车来。”既然渐进式发展路线本身就存在问题,建基于此的被动接管规则也没有必须存在的理由。

第二,被动接管规则不符合市场需求。一方面,消费者并不欢迎被动接管规则。首先,消费者购买自动驾驶汽车的目的是解放双手,彻底摆脱驾驶职责,接管职责只会让消费者望而却步。德国有学者就指出,被动接管规则直接与消费者购买自动驾驶汽车的目的冲突,这不仅降低了自动驾驶汽车的吸引力,也导致了对人类用户的苛求。其次,安全是消费者接受自动驾驶汽车的前提,而被动接管规则让自动驾驶汽车的安全性甚至不如传统汽车。紧急情况发生时,相比于驾驶传统汽车,乘坐自动驾驶汽车因为反应时间更长,事故率反而更高。再次,以辅助驾驶来论证接管职责易为消费者所接受是不合理的。不同于自动驾驶,辅助驾驶场景下人类用户始终绝对掌控驾驶控制权,不存在驾驶权人机分配的问题。使用辅助驾驶功能的消费者全程承担驾驶职责,例如,双手始终保持在方向盘上,不会发生紧急情况下的突然接管。况且近年来辅助驾驶技术事故频发,其安全性本身值得质疑。2022年6月,美国联邦政府发布报告显示,辅助驾驶技术过去一年内共发生392起事故。这在一定程度上表明人机协作不适合驾驶活动,在解放人类的同时又要求人类监管违反了人类的生理本能。最后,被动接管规则还会带来接管妥当性判断以及人机之间责任分配的难题。可以预见的是,如生产者与人类用户各执一词,生产者借助其优势地位,必定会利用被动接管规则将责任转移给消费者,最终导致产品被消费者抵制和抛弃。

另一方面,车企对于被动接管规则的态度也不乐观。渐进式发展路线的支持者多是一些传统汽车公司,他们对于被动接管规则的支持以及手动驾驶的执念,在某种程度上是一种战略手段。事实上,许多企业都表示会直接生产高度自动驾驶汽车。例如,谷歌公司与福特公司就明确表示,直接跳到L4级高度自动驾驶汽车非常重要,而不是早早地将L3级有条件自动驾驶汽车推向市场。高度自动驾驶汽车在设计运行范围内是完全自主的,不需要司机随时待命。谷歌公司认为,自动驾驶汽车的发展过程是没有中间地带的,人类和机器不应该共同掌控方向盘,这种观点看似有风险,但考虑到消费者的人身安全,这反而是最谨慎、最明智的发展路线。此外,百度公司从2013年决定投资研发自动驾驶技术时,就瞄准了无人化、全工况的交通场景,朝着L4级高度自动驾驶的方向进发。

第三,被动接管规则阻碍了自动驾驶汽车的商业化。一方面,被动接管规则对整个汽车行业提出的是不合理的要求:自动驾驶汽车必须总是能够及时识别系统无法胜任的情况并及时发出接管请求。这种识别既要求全面,不能遗漏需要接管的情况;同时又要非常准确,假如错误接管请求频繁出现,用户最终会丧失耐心或者无法鉴别真正需要回应的接管情形。此外,被动接管规则要求自动驾驶汽车能够识别人类用户是否具有接管的条件与能力,留出足够的接管时间,并在人类用户未响应时自主采取最低风险策略。这对于生产者来说无疑是极大的挑战,其难度比生产高度自动驾驶汽车有过之而无不及。最后,被动接管规则还带来了责任界定的难题,会极大地阻碍自动驾驶技术商业化。在2022年世界人工智能大会上,百度公司总裁李彦宏就明确表示:“其实L2之后率先进入商用的很可能是L4,而不是L3。因为L2和L4的事故责任界定都是清楚的。”

另一方面,被动接管规则会极大地限制自动驾驶汽车的商业化应用。在自动驾驶汽车未来的商业蓝图中,私家车模式将逐步让位于购买交通服务的共享模式。然而,由于被动接管规则的存在,自动驾驶出租车等共享模式恐将难以落地。具言之,有条件自动驾驶汽车必须配备驾驶人随时准备接管。这意味着与传统出租车相比,有条件自动驾驶汽车在增加汽车成本的同时,并没有通过机器取代人工节省出人力成本,竞争优势大打折扣。如果按照《深圳经济特区智能网联汽车管理条例》的规定,高度自动驾驶汽车也存在被动接管规则,同样不适合用于共享出行。而完全自动驾驶汽车短期内技术上又难以实现。如此一来,自动驾驶共享出行的商业应用似乎遥遥无期。

(三)人类中心主义的审视

被动接管规则违反自动驾驶汽车的设计初衷,与人类中心主义的伦理准则实属貌合神离。

第一,维持机器控制的商榷。自动驾驶技术仅仅改变了人类使用汽车的方式,并未改变人类对于机器的控制。这起码体现在两个方面:一是自动驾驶汽车全程需听从人类用户的命令,人类用户控制着汽车运行的时间、地点、方式等,汽车的使命始终是为人类用户服务;二是人类用户可以随时行使主动接管的权利,回归手动驾驶。被动接管规则与维持人类对于机器的控制并无实质关系,其预设的场景是紧急情况下以人类智能弥补机器智能的不足,这对人类用户来说是纯粹的负担,并未带来任何控制权力。退一步说,这种带有安全风险与责任风险的控制权力,也并非人类用户所需。被动接管规则只会徒增汽车运行的事故风险,导致人类用户以及其他交通参与者的人身财产安全受到威胁,违反人类中心主义的伦理精神。

第二,保留人在环中的辨析。人在环中更多体现为技术层面的选择,与人类中心主义伦理没有必然关系。无论是人在环中,还是人在环上或者环外,都是为了发挥机器为人类服务的最大效能。对于自动驾驶汽车来说,机械地保留人在环中并不能产生预想的结果。

具体来说,人工智能有替代型人工智能与辅助型人工智能之分,前者强调机器替代人类,后者体现的是机器辅助或者增强人类。例如,医疗人工智能就是典型的辅助型人工智能,其主要目的是提升医务人员的诊疗能力,故医疗人工智能做出的每个决策,都需要经过医务人员的再判断,才能转化为作用于患者的医疗措施。对此,国家卫生健康委印发的《医院信息化建设应用技术指引》以及《全国医院信息化建设标准与规范》就使用了“辅助诊断”“提供诊断和治疗建议”等术语。基于此,对于医疗人工智能保留人在环中是必要的。然而,自动驾驶汽车本质上是一种替代型人工智能,消费者购买自动驾驶汽车主要是为了享受技术带来的便利,特别是对于那些将开车视为一种负担的群体来说。自动驾驶汽车存在的意义,就是用机器驾驶替代手动驾驶,彻底解放人类驾驶员。被动接管规则的存在,非但无益于保留人性,反而违反人的生理本能,有悖于自动驾驶汽车的设计初衷。

与此同时,机器取代人类承担驾驶职责并不必然与人类中心主义的伦理准则矛盾,更谈不上侵害人的自我决定权或者人之尊严。某种人工智能应用形式究竟归入替代型人工智能抑或辅助型人工智能,关键是看机器取代人类在技术上是否可行以及伦理上是否允许。自动驾驶汽车之所以归入替代型人工智能,实属技术与伦理的必然选择。一方面,机器驾驶相较于人类手动驾驶具有全方位的优势,能够在技术层面实现更加安全便利的出行。由机器驾驶汽车并非对人类自我决定权的剥夺,而是让人类以更加安全的方式来控制、使用汽车,目的恰恰是更好地保护人类的生命、健康等重大利益。另一方面,汽车本质上是一种出行工具,驾驶活动也主要是一项物理运动,能够进行量化计算,机器驾驶取代人类手动驾驶不存在过多的伦理羁绊。这与医疗活动充满伦理属性的特点是不同的。将驾驶控制权交给自动驾驶系统不会导致违反人性的后果,相反,它们比人类用户更加遵守交通法规,更有助于维持安全有序的出行秩序。即使面对电车难题,自动驾驶系统也能表现得富有人性,因为自动驾驶算法能够通过事先编程,嵌入更加中立且合乎伦理的决策规则,比身处困境中的人类驾驶员更加值得信赖。总之,不能简单地认为辅助型人工智能就符合人类中心主义,替代型人工智能就会背离人性。这种非此即彼的观点本身就存在问题,只会让我们得到偏颇的答案。对于自动驾驶汽车来说,被动接管规则与人类中心主义实属南辕北辙,背离了让机器更好地服务人类的宗旨。

四、结 语

被动接管规则关乎自动驾驶汽车的商业化进程,影响人机驾驶控制权的分配和自动驾驶汽车的产品形态,具有重要的现实意义。基于上文分析,我国自动驾驶汽车在制度设计和发展路线上都需要重新思考。第一,明确自动驾驶汽车替代型人工智能的属性,废除被动接管规则,只要开启自动驾驶模式,人类用户就应得到解放,自动驾驶系统本身应具备自主应对紧急情况的能力。在此基础上,车企在设计生产自动驾驶汽车时可以自由选择是否保留手动驾驶装置。例如,2022年3月,美国国家公路交通安全管理局发布了最终版本的《无人驾驶汽车乘客保护规定》,明确自动驾驶汽车可以不用配备传统的方向盘、制动或油门踏板等手动控制装置。第二,有条件自动驾驶并非汽车智能化发展的必要阶段,行业应当采取跨越式发展路线,由传统汽车直接过渡到高度自动驾驶、完全自动驾驶。考虑到实现完全自动驾驶的技术难度,行业应当优先发展高度自动驾驶,以此推动自动驾驶汽车的商业化落地。2022年11月,《上海市浦东新区促进无驾驶人智能网联汽车创新应用规定》出台,重点发展车内不配备驾驶人和测试安全员的自动驾驶汽车,即在尝试直接向高度自动驾驶进发。第三,如果非要保持现有的汽车自动化分级,至少应当将被动接管规则严格限制在有条件自动驾驶阶段,高度自动驾驶与完全自动驾驶不应要求人类用户承担接管职责,才利于行业发展高度自动驾驶。对此,《深圳经济特区智能网联汽车管理条例》将被动接管规则扩展至高度自动驾驶的做法显然值得检讨。

《数字法治》专题由华东政法大学数字法治研究院特约供稿,专题统筹:秦前松。

推荐阅读

精彩视频查看更多