百度总裁李彦宏在北京试乘自动驾驶汽车,被交警拦下。这是近期人工智能领域的一个大新闻,人们对此从不同视角作了不同解读。技术乐观者看到了自动驾驶技术的成熟,并预测自动驾驶汽车会很快获准上路;法律人士则在分析李彦宏应该承担什么样的责任,应该被扣几分,无人驾驶汽车是否有资格上路?在人工智能的大潮中,法律人士的质疑显得有些格格不入。果然如此吗?
对于自动驾驶汽车,法律人士既不能简单的用现行规则去加以否定,也不能随波逐流,而是应该从人工智能的发展趋势、社会安全、伦理秩序等视角对自动驾驶汽车进行全面分析,从而在技术进步与公共安全之间找到平衡点。
根据通行的观点,人工智能有三个阶段。第一阶段是弱人工智能,第二阶段是强人工智能,第三阶段是超级人工智能。
弱人工智能,是指擅长于单个知识领域或技能的人工智能,比如战胜卡斯帕罗夫的深蓝,以及战胜李世石的阿尔法狗,还包括一些智能化的翻译软件和语音识别软件。
强人工智能,是指与人类智慧同等级别的人工智能。强人工智能在各方面都能和人类比肩,能够胜任人类脑力活动的各个领域,能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作。
超人工智能,则是指在几乎所有领域都比最聪明的人类大脑更为聪明的人工智能。
当前公认的观点是,我们刚刚在弱人工智能领域取得阶段性的突破,比如文档处理、语音识别、棋类游戏、流水线作业等。但即使在弱人工智能领域,人类当前也并未完全突破。
不同的人工智能,对应不同的社会角色定位。
弱人工智能的定位是在具体的领域辅助人类工作,以弥补人类在体力、运算速度、记忆能力的不足。弱人工智能的社会定位是工具层面的,不会冲击和影响人类社会的伦理秩序。
强人工智能与超人工智能的社会定位问题,由于强人工智能尚未出现,当前仍无法作出判断。究竟是人类的助手,亦或是人类社会的竞争者?
在自动驾驶领域,人工只能究竟扮演什么样的角色,需要从驾驶的属性出发进行分析和判断。
安全的自动驾驶应属于弱人工智能还是强人工智能范畴?这就涉及到驾驶行为的界定。车辆驾驶是按照交通规则在道路及开放空间操控车辆,将人及物品输送到目的地的行为。在自动驾驶过程中,涉及到如下几个因素。
1、车辆本身
这个因素是人工驾驶和自动驾驶都存在的,只是人工驾驶过程中,人与车辆是分开的,而自动驾驶过程中,自动驾驶程序可能是内嵌于车辆硬件之中的。
2、道路
道路是驾驶的基础条件,承载车辆并决定车辆的行驶方向。城市道路是所有交通环境中最为复杂的环境,集合了多种因素。其他车辆、行人、动物、建筑物、障碍物、气候变化,都是道路环境的组成部分。这与飞机的自动驾驶完全不同。
3、行人
行人是交通参与者,行人安全是交通活动最关注的要素,更是驾驶人必须关注的最核心问题,也是交通事故、损害赔偿,甚至是刑事追责,都主要围绕着行人安全。同时,行人也是最不可预测的变量。
从上面的分析不难看出,道路交通环境非常复杂,驾驶行为需要考虑的要素非常多,不可预期的因素也非常多。因此,驾驶行为虽然是对车辆的操控,看似是一个单一知识领域的行为,但实际上却是多种行为的组合,既需要分析路况、识别交通标识,也需要预判行人的行为、考虑气象条件。从这个意义上讲,自动驾驶应该是一个属于强人工智能技术的应用领域,也就是说在能够处理复杂任务的强人工智能出现之前,自动驾驶技术广泛应用于开放道路在逻辑上是值得推敲的。虽然当前谷歌、百度等公司均声称其自身的自动驾驶技术是成熟的,但事实上均未真正实现复杂道路条件下的大规模测试。而车辆驾驶,一旦发生技术无法预期的风险,对于社会公众而言,将是难以承受的。弱人工智能对于自动驾驶的验证往往处于较为理想的预设场景,比如道路上的自动驾驶汽车只有一辆,周围都是人工驾驶车辆,那么究竟是因为周围都是人类驾驶员导致自动驾驶车辆的安全,还是因为自动驾驶车辆的设计而导致了车辆安全,这个问题仍值得推敲。如果道路上自动驾驶车辆普及,是否仍可以达到现在的测试结果?
根据我国相关的法规,考取驾驶执照的年龄为18周岁,美国的驾照考取年龄是16周岁。各个国家采取的标准,基本上与民事责任能力相对应,或者说基本上采取的标准都是成年的心智标准。
也就是说,在立法过程中,人们对于驾驶行为,视为一种复杂的人类活动。驾驶过程除了应具备基本的车辆操控能力外,还需要具备成年人的心智和情绪控制能力,以及对周边路况的感知、对行驶路线的规划。如果仅仅从操控车辆角度看,未成年人也具备基本的驾驶能力,比如卡丁车等赛道比赛活动,未成年人完全可以操作车辆进行避让和紧急处置,甚至在某些领域中,未成年人的反应灵敏度高于成年人。但是,为什么还要将成年作为取得驾驶执照和在开放道路进行驾驶的基本条件呢?吴卫明博士认为,这是因为立法在确定驾驶行为的属性时,并不是单纯的将其界定为一种简单的技术活动,而是将其定位于一种社会活动和人际交流活动。因为车辆在开放道路行驶过程中,虽然从表面看,车辆到达目的地是驾驶行为的目标,但保护其他交通参与者安全才是驾驶行为的终极价值。车辆位置变化,看似是简单的物理空间变化,实际上却是人与人位置关系的变化。在车辆高速运转的状态下,一旦发生误判,导致的人身伤害和社会危害将会非常巨大。所以,以成年作为标准,是立法机构对于驾驶者提出的基本审慎要求。
从上述分析不难看出,驾驶行为具有技术属性,但具有更强的社会属性。社会对于自动驾驶的心理接受是一个复杂的过程,这就要求自动驾驶技术能够给社会足够的信心。而社会信心建立在社会对于人工智能阶段的认知,只有当社会心理普遍认为人工智能的整体技术比较“可靠”,也就是人工智能达到强人工智能的阶段,社会心理才会普遍接受自动驾驶技术。
还有自动驾驶的数据维度问题,路面情况是复杂的,数据模型维度的复杂程度需要长期的路面测试方可以有清晰的认知。是否仅仅依靠路面跑出来的数据就可以构建完善的自动驾驶程序?或者还需要更为复杂的人类社会知识、经验和自然科学知识才能构建?
自动驾驶汽车上路还有一个关键问题,交通事故导致他人财产或人身损害的赔偿问题。
1、过错的判定问题
根据《侵权责任法》的规则,机动车发生交通事故造成损害的,依照道路交通安全法的有关规定承担赔偿责任。而《道路交通安全法》则规定,由交警判定机动车驾驶人或行人的责任,并最终确定损失如何分担。吴卫明博士认为,自动驾驶条件下,由于驾驶人的缺失,导致《道路交通安全法》的责任判定原则无法适用。也就是说,一旦自动驾驶汽车发生交通事故,所面对的过错责任判定,将脱离交通安全法的管辖范畴,而归入《产品质量法》的规制范围。需要判定,自动驾驶汽车,是否属于缺陷产品。
2、汽车作为缺陷产品导致行人或非车主损害的责任承担问题
自动驾驶汽车导致行人伤害,只能依据产品质量法进行追责。但是对于受到伤害的行人而言,需要面对的是如何确定缺陷产品的责任者。按照产品质量法,产品的生产者、销售者均可以作为被告。但车辆的车主或乘坐人对于车辆是否能够进行一定程度的控制,或介入车辆驾驶过程,将使得损害赔偿的责任确定问题异常复杂。如果车主在一定程度上介入驾驶过程,则需要判定是车辆存在缺陷,还是车主干预导致车辆驾驶失控?
事实上,非驾驶人或行人索赔还将面临一个巨大的法律障碍。《产品质量法》第41条规定,产品生产者能够证明将产品投入流通时的科学技术水平尚不能发现缺陷的存在的,可以免责。吴卫明博士认为,由于人工智能深度学习算法的“黑箱”机制,程序设计者事实上无法完全解析深度学习算法的最终结果。而自动驾驶技术恰恰是构建在人工智能基础之上的,人工智能的不可预期性,是否会被认定为“产品投入流通时的科学技术水平尚不能发现缺陷”?将是决定行人生命权利是否得到保护的基础。
如果责任判别及承担问题无法得到有效解决,自动驾驶技术将给社会秩序带来极大的伤害。
综上,强人工智能的出现,是社会心理接受自动驾驶的基础。而《侵权责任法》、《产品质量法》及《道路交通安全法》的修改,是自动驾驶汽车上路的基本条件。在上述条件的约束下,自动驾驶汽车短期之内很难得到大规模的上路许可。这是自动驾驶汽车领域投资面临的最大不确定性。