010-57804780

未来,人工智能的法律边界何在?

2017-09-06 16:54:21
首页 | 法治力案例 | 详情

既有法律原则、原理不会因人工智能的到来进行重大变更,“知识产权化”与“许可化”是未来人工智能世界的关键。我们是否准备好接受这样的环境,放弃对隐私等信息的控制换取新功能或便利?


何为人工智能?其法律定义如何?至今仍未看到对“人工智能”明确精准的定义。


与西方社会倾向于对人工智能采取敌视态度,惧怕其失控带来灾难的态度不同,东方社会对人工智能则采取相对开放的态度。


“人工智能的法律规制”同时存在两种态度:一种对其充满恐惧,认为人类将被主宰或替代;另一种认为人类将能与其达成协作。事实上,不论我们接受与否,对人工智能的运用早已在周遭出现,而且方兴未艾。


人工智能是否应受规制,以及如何规制,可从四个方面分析:第一,人工智能的定义及难点,如“人工智能”、“机器人”与自动化的关系;第二,法律对“人”的定义演化;第三,权利、义务与责任承担,即谁负责、谁有权利的问题,如是否给机器人拟人化的地位等;第四,需关注人工智能对就业、交通、环境等方面产生的影响,以便更有效、精准地规制。


人工智能定义之困


何为人工智能?其法律定义如何?现阶段,这一问题很难回答,至今仍未看到对“人工智能”明确精准的定义。


因很难为人工智能定义边界及具体内涵,通常情况下,我们首先从类型化角度思考,用列举式的方式定义是否为人工智能。但人工智能如同大数据,内容多而覆盖广,难以被类型化。


另一方法是从功能角度切入,即只要符合某些功能便称之为人工智能。其中至少有一个因素需考虑,即“人为控制”——是否有自我操控能力。

但是这一因素也面临很多问题:例如,若把“控制”作为关键因素,应如何看待用于治疗的微型机器人?微型机器人在人体血管中运动,似乎未受到任何控制。但实际上,控制已经发生在其被注射到身体之前,不能够超越计算机程序预先设定的可操作范围。这种情况下,微型机器人是否可被认定为仍受某种控制?


综上,要定义人工智能,需先探讨对“人”的定义。


从历史角度看,“人”这一概念本身没有固定定义,始终在演化,且进程缓慢。封建时期,出身基本决定人的社会身份与地位,并对人的族裔、性别等产生不同程度的优惠或歧视性对待。


即使在美国,直至近百年前才赋予女性投票资格,50年前才在形式上给予非洲裔人民平等投票权。


机器人以“人”的身份出现前,一种思考方向是通过追责来反推是否赋权,即出现问题由谁负责。确定谁负责,即可赋予谁权利——愿意承担义务便赋予其权利。从这一思路出发,出现问题找机器理赔显然没有意义。


另外,应如何区分“感知”与“意识”的概念?如有A、B、C、D四个选项,人工智能会建议选A或B吗?在可预见的未来,人工智能无法直接作出“A或B”的选择,作出决定的一定是人(包括事先在软件程序中写下若A则B的指令)。


“判断”是很重要的素质,当人工智能能够独立判断时,就变成有人格的机器人。虽然技术要达到这一步尚远,但可把“感知”、“意识”作为区分机器人与人的基础。


科幻电影《2001:太空漫游》中最具戏剧张力的情节是,当宇航舰上人工智能电脑系统HAL被制作出来时,被输入最高指令:必须保护或不得伤害人类。但任务总指挥官在出发前又对其输入了另一条最高指令:对于探索地球所有物种生命起源的重大任务必须坚持完成,不容失败。


冲突由此产生——如任务执行过程中发生意外事故,宇航员准备放弃时,电脑应该听命指令放弃任务,还是坚持任务抗命不从,甚至不惜牺牲全舰人员的性命?


这一冲突引人深思:人类常会不经意间埋下矛盾的种子,一旦发生问题,又如何要求一台机器或装置完成本应属于人所必须取舍的价值判断?

假定一个人工智能的装置可从生理和其他反应“感知”我们的情绪变化,根据事先输入的大数据“判断”我们陷入了某种低落的情绪,并基于此“说”一个笑话。这样的过程是否属于“意识性感知”?


行为学专家们认为,这并没有完全摆脱机械性的反应:具有“人工智能”的装置或“机器人”本身没有自觉的认知。它们根据既定的模式搭配自我学习过程中所产生的计算,来提供一个可能会让我们心情舒缓的信息与服务。


我们在短期可能遭遇的问题是,如何界定何者属于“人”的行为,何者又属于“装置”的行为。


如越来越多的“仿生器官”被植入到人体,它们有的功能类似于生理上的非自主神经系统,几乎不受当事人意志的控制;有的类似于自主神经系统,可在相当范围内受到外在指令的控制;有的则是两者交互运用。

如果某个智能型医疗装置发生故障,导致对第三人造成伤害,应由谁负责?这就涉及在定义何谓“人工智能”时,是否或能否只局限于“非自主性”部分的问题。


目前至少有四种不同的方式或视角来定义“人工智能”:


一是以一项工作或任务如交给人来处理或表现,是否需要人类的智力处理过程作为检测的标识;

二是以一个计算机程序是否能复制当人脑从事同样工作时的内部状态作为标识;

三是以要求电脑或装置是否可以模仿人脑从事相同工作或任务时的外在行为表现作为标识;

四是以是否让计算机等装置更有用途,以及让智能成为“智慧”。


这些思路虽然各有优缺点,但未必相互排斥,还需要更多论证。


现有法律体系尚经得起人工智能考验


与人工智能相关的问题中,第一考虑的是大数据与隐私保护;第二是危险承担与瑕疵担保责任;第三是知识产权的创造与归属;第四是侵权或损害赔偿责任归属;最后考量人工智能的道德准绳是否需要与人类统一?


首先,危险承担与瑕疵担保责任。如果安装一个“人工手”,“手”突然发生故障,对他人的身体或财产造成损害,谁应承担责任?


从一个角度而言,“人工手”可视为当事人的延伸,因此凡是所造成的伤害也应该归责于操作人;但从另一个角度,由于装置具有相当程度的人工智能,如果当事人的最后判断是基于人工智能所提供的计算结果或只是根据其建议按下“同意”的按钮,那么究竟可归责的主体应该是谁?责任应如何分担?


这些问题与无人自动驾驶汽车的潜在法律责任有着密切关系,必须未雨绸缪。


目前状况是,既有法律原则、原理依然经得起考验,并不会因案件涉及到人工智能产品而需作出重大变更。


其次,人工智能产品的侵权或损害责任归属问题。通常认为其适用技术中立原则,即原则上技术不涉及侵权行为或者有罪、无罪,除少数例外不必对其作出任何价值判断。


在美国,如果一个机器、装置或设备是用来从事侵权,或除侵权行为外没有任何显著的商业目的或功能,那么“技术中立原则”便不适用。


再次,知识产权的创造与归属问题。一个争议热点是,由人工智能所创造出来的作品能否获得著作权的保护?如果答案为肯定,那么此著作权应该归属于谁?


学界对此争议很大。截至目前,美国版权局已经明确表示,著作权保护的作者必须是“人”(自然人或法人)。最近一个知名的保护动物权益团体在美国加州起诉,试图主张猩猩拿摄影机自拍的作品也应当受到著作权保护。一审法院判决动物权益保护团体败诉,目前,该案已经上诉到联邦第九巡回上诉法院。


最后,人工智能对生活的影响问题。如人们最关心的就业问题,按照欧盟的实证研究和判断,人工智能不会对就业产生“断崖式”下跌影响,许多工作机会虽然会消逝,但同时人工智能将开创出更多的工作机会。


自工业革命开始,人类便循环不绝地走着同样的路线,始终有一部分人失去工作,也始终有人创造出新工作。当我们将不愿做的事情交给机器人时,便需要处理更多因涉及到机器的操作而引发的新问题和其他相关的事务。


未来“所有权”将不重要


人工智能与很多概念相关,例如“大数据”、“共享经济”等。其中大数据并不是一个时兴名词,上世纪50年代,美国拉斯维加斯的赌场就已经开始关注每一位赌客的生活习惯、嗜好等。


麦当劳通过对各种数据的分析,对我们饮食消费习惯的了解已经远超我们对自己的了解。唯有如此,他们才能精确地掌控相关的库存与物流,即便是经济不景气,透过各种杠杆与避险地操作,也维持到业绩不过度下滑,其核心就是大数据。


共享经济要求释放闲置资源,让大家可以互蒙其利,这在一定程度上也需要共享每个使用者的隐私和其他相关数据。


共享经济的前提和代价是必须释放个人信息,否则就不可能有共享。因此有人反思,既然我们已经来到一个没有隐私可言的时代,那么干脆让自己的隐私待价而沽,交给某个企业代理来卖。虽然同时还需要在一定程度上管控个人信息,但只要不被用来作恶,对信息的使用可以公开透明。


关于未来世界的一个观察是买卖和所有权可能会变得不重要。“所有权”恐会成为空壳,关键在于产品中发挥功能的软件,操控在你我看不见的企业“云计算”中。“云”也许离我们很近,也许很远,但在那些“云”当中的运营、计算将操控一切。问题在于我们是否已经准备好,能否接受和面对这样的环境,愿意放弃多少对自己隐私等信息的控制,来换取产品可能会带来的新功能或便利?


民法的核心概念是所有权,但未来将是“知识产权化”与“许可化”的世界,所有权将变得不重要,本次制定的《民法总则》是脱离21世纪的产品,错过了一个非常重要的机遇。


回到对于解决“控制”和“便利”的矛盾。回顾历史,迈因爵士曾指出,人类的演进历史是从“身份到契约”的过程。


从原始社会人类的身份关系,到现代社会建立人人平等的契约关系,订约时大家处于平等地位,甚至由于某些消费者处于弱势地位,法律会通过《消费者权益保护法》强化对其地位的保护,这就是从身份到契约的演变。


契约社会代表的是自由主义、个人主义,而面临“大数据”、“共享经济”、“人工智能”的社会,在“共享经济”要求下,我们是否又重新走向身份、回到群体主义?是否又从契约逐步回到身份,从个人走回群体?这一问题值得反思。

来源:财经


更多精彩文章请扫二维码关注:

课程定制 课程特惠 公司愿景 加入我们 联系我们
CopyRight© 一法网 版权所有
京ICP备16058371号
地址:北京朝阳区广渠路21号金海商富中心B座705
电话:010-5780 4780
网址:www.thefirstlaw.cn