人工智能法律前沿问题探讨——机器人“索菲娅”是否应为法律上的“人”

2017 年 11 月 1 日 百度公共政策研究院 姚志伟曾玉锋

图片来源：东方头条

编者按：随着人工智能技术的发展，传统法律及社会规范面临新的挑战。机器人索菲娅被授予沙特公民身份，加剧了有关“机器人法律权利”的争论，机器人是否应该被赋予与人类相同的权利，并承担相应的责任？

2017年10月26日在沙特阿拉伯首都利雅得举行的“未来投资倡议”大会上，“女性”机器人索菲娅被授予沙特公民身份。在会场上，CNBC主播安德鲁向索菲娅问了一个非常有趣的问题，“你是否具有自我意识？人类担心的是《银翼杀手》的情节回归现实，你是否会对人类造成伤害？”。索菲娅机智的回答说：“你是怎么认为你自己是人类呢？”并且认为安德鲁对于机器的恐惧可能是好莱坞的电影看多了。这个回答让索菲亚的确显得非常的聪明。

事实上，随着人工智能技术的快速发展，机器人与人类的差别在逐渐缩小，这也引发了对其法律地位的讨论。2016年，欧盟委员会法律事务委员会以17票赞成对2票反对、2票弃权向欧盟委员会提交了建议报告要求将最先进的自动化机器人的身份定位为“电子人”，除赋予其“特定的权利和义务”外，还建议为智能自动化机器人进行登记，以便为其进行纳税、缴费、领取养老金。欧盟委员会法律事务委员会的建议报告实际在一定程度上肯定了机器人具有“人”的属性。

人工智能这一概念早在20世纪50年代就提出了，但是提出后近半个世纪发展依然相当的缓慢。主要是因为早期的人工智能研究主要集中对人的大脑的仿真研究，包括探究意识、感情等更为抽象层面的模拟。随着互联网的发展，以谷歌为代表的企业开始另辟蹊径，在承认了人工智能不完美的情况下，通过海量数据的挖掘以及算法的优化在特定领域实现智能化。

图片来源：东方头条

事实上，索菲亚也一样，其本质在于算法和数据的处理，其物理的外形表现为人形，但其只是一个由算法主导的硬件系统，其工作的逻辑主要是通过传感器以及语音识别系统，将人类的自然语言以及外界的感知转换成为机器语言传达到控制系统，控制系统通过高速计算处理，将信息传达到驱动系统，从而输出语言和特定的指令动作。

问题在于，由算法主导的硬件系统“索菲亚”越来越聪明，即当机器人自我收据搜集、处理数据的能力越来越强，其智能化和自动化也随着增强的时候，由其导致的侵权等法律责任应该由谁来承担？例如无人驾驶汽车，在无人监控，由算法主导驾驶时出现事故，其责任应如何分配，现行法无法给出明确的回答。

在日常生活中，我们在注册使用某一互联网服务，成为其用户时候，会发现有很多的用户协议，其中协议里面很大的一部分就是服务提供者关于自己的免责条款。其无非就是想告诉用户没有任何基于计算机的服务是百分之百完美的。任何一个互联网服务也不能做到百分百的安全。“索菲亚”也一样，作为算法物理化的人，任何一个机构也无法确保“索菲亚”算法不存在缺陷或者不存在计算错误。

但随着算法的发展，机器人会从单一的自动化服务走向多元通用的服务转变，其主导的社会事项会越来越多也越来越复杂，其行为结果模式也会越来越复杂，算法缺陷和算法错误所带来的风险也会带来无法预测的结果。

法律的本质是对人类社会交往制定一般性的规则，表现为通过规则对个体行为的假设，对特定主体进行权利和义务划分。因此，随着机器人的智能化以及其参与社会分工的角色的深入及复杂，由机器人导致的纠纷不仅会越来越多，同时也会越来越复杂，因此在法律上对机器人的法律主体地位进行设定的确有其一定的必要性。

在传统的法律框架中，对于机器人的法律定位主要存在三种看法：

一种观点认为，机器人在法律上属于工具，其并不存在意识和思维，与之相类似的观点认为机器人只是人类的奴隶，如同AlphaGo一样可以不知疲倦的日夜学习，仅仅是人类的奴隶。这两种观点都把机器人看作仅仅是人类生存发展的辅助工具。

还有一种观点机器人所有行为均是为人类所控制，其作出的行为与引起的后果最终必须由被代理的主体承担。

上述的所有观点都否认了机器人拥有独立的人格。事实上，以特斯拉为代表的自动驾驶汽车，已经能够独立自主进行选择判断，具有一定的意思表示能力，甚至未来的自动驾驶汽车会根据天气和路况对于行程的出发考虑车主的实际人身安全作出是否出发的决策，甚至还可能要处理“电车难题”（伦理学上的难题，即驾驶电车者在特定情况下要处理是让电车杀死一人还是杀死多人的两难困局）这样人类都极为难以处理的问题。因此，基于人工智能的机器人与工业时代的“工具”具有截然不同的性质。

在电影《机械公敌中》机器人学之父阿西莫夫提出的“机器人三原则”。“机器人不得伤害人类；机器人必须服从人类的命令，除非这条命令与第一条原则相矛盾；机器人必须保护自己，除非这种保护与以上两条原则相矛盾。”机器人必须保护自己，实际就是给予机器人自我保护的权利。赋予机器人权利，不是因为它们像人一样，拥有“神经网络” ，可以“深度自主学习”，而是因为它们能独立自主地作出意思表示。

有学者指出：“在现有技术条件下，机器人已可签订合同、管理公司，其独立自主作出意思表示的能力已得到实现。”但是否具有法律的上的主体资格，除了能独立的作出意思表示外还需要得到法律的确认。法律上的“人”包括自然人、法人。前者是基于出生而取得民事主体资格的人，后者是法律上的拟制的人。鉴于机器人跟自然人有着本质的区别，赋予机器人公民身份并不代表其享受自然人享有的人格权。

以算法和硬件系统组成的机器人权利主体是人工智能背后的实际控制人。从根本上说，人工智能是人类的创造物，其工具属性对其法律地位有决定性的影响。因此，即使赋予其人格权，其人格权也必然是有限的。也必须根据人工职能自身的特点，对权利进行重新设计，就如同法人人格权是在自然人人格权基础上，根据法人的特性进行重新设计。

姚志伟，广东外语外贸大学

曾玉锋，广东省仲恺高新区人民法庭

往期文章推荐

百度公共政策研究院“十九大报告数字经济论述的深度解读”研讨会成功举办

数字经济发展的新方向与新战略

民法典应当直面人工智能时代的法律挑战