“我认为赋予人工智能体独立的法律人格还为时过早。正如有学者指出的，‘过多强调人工智能拟人化，可能会误导公众和政策制定者提出错误的问题，进而衍生出无意义的辩论方向’。换句话说，‘过多机器人是否承担法律责任，会导致忽略背后的人的法律问题’。”
在“2022世界人工智能大会·亚洲科技伦理治理与可持续发展论坛”上，上海交通大学凯原法学院院长、特聘教授彭诚信以《数字伦理中的法律之治》为题发表主旨演讲。
人工智能的可信向善归根结底是人
彭诚信从以下几点谈数字伦理中的法律之治：第一，数字社会当中伦理之治的根本在人。人工智能的可信向善，归根结底还是人的可信向善，这既包括算法的设计者等技术人员，也包括企业生产者、消费者、使用者等等。
第二，自然人向善的前提是首先要做个职业人、伦理人或者好人，而非仅是趋利动物或者趋向资本的动物。这就需要科技工作者、企业家以及自然人具有基本职业要求与职业素养，然而人性是有弱点的，因此我们才有必要追求可信向善。
彭诚信举了两个例子：一个是一席演讲者徐淼等以《骑手谜云》为题所做的演讲，其内容是在演讲者研究了1907份判决书基础上所做出。其中有句话令人印象深刻，“外卖系统里不仅仅有算法，还藏匿了许许多多的公司，而这些公司错综复杂交汇而成的法律关系网络，正把骑手死死地捆住。当骑手跌入前方这个大坑的时候，其中任何一家公司，都不足以构成他的用人单位。”
另一个案例则是“大数据杀熟案”，有用户在携程网订酒店，贵宾钻石会员享受了优惠价，但入住时却发现比普通消费者还贵了一倍多，于是这名用户认为受到了欺骗并提起了诉讼，要求补偿和不再受隐私条款的束缚。二审法院认为被告携程公司的行为构成价格欺诈，需按差额房费的三倍支付赔偿金，但没有支持用户免受隐私政策束缚的请求。
第三，数字伦理法律之治的前提是把法律人该做的事做好，也就是法律人的职业精神。
该不该赋予AI独立法律人格
针对上述三点，彭诚信认为，法律人应该做好的第一件事，就是要厘清法律的基本原理。以数据与个人信息保护法为例，数字经济面临的最重要问题就是数据利用和个人信息保护或者隐私保护的平衡问题。因此，要将数据、个人信息、隐私等基本概念分清楚，厘清个人信息的权利属性，尤其是个人与企业如何分配个人信息的财产权益。这些都是数字法学中的基本问题。
彭诚信认为，当前，各地都在以元宇宙、通用人工智能甚至强人工智能等概念为题大谈如何发展相关产业。实际上，在人工智能发展与创新的过程中，一定不能忽视包括数学、物理学、量子物理、计算机科学与技术、统计学、包括法学等基础学科的作用，尤其是这些基础学科之间的交叉研究，否则这些发展就是空中楼阁，我们仍旧会在基础设施、基础工艺、基础理论上被“卡脖子”。
他建议，应该利用尖端技术的发展来再带动基础理论的研究与发展，就好比新中国成立之初利用原子弹带动数学、物理、化学等基础科学的发展，十一届三中后利用市场经济、改革开放带动经济学、法学等社会科学基本原理的发展历程，这才是正确的发展之道。对此，彭诚信还借用麻省理工学院校长L. Rafael Reif教授的话总结说，“只有随着基础科学的进步，社会也才能进步”。
法律人应该做好的第二件事，就是完善法律监管。可信向善的外部约束是，人以及企业的行为要合规、合法，这就需要对人工智能发展建构体系化的法律监管框架，建立全流程生命周期的程序化监管制度。
此外，法律人应该做好第三件事，即厘清法律关系中的责任分配，确立人们的行为规范。人工智能与传统技术最大的区别就在于其具备的深度学习与思考能力。有学者甚至提出要赋予人工智能独立的法律人格。
对此，彭诚信认为，赋予人工智能体独立的法律人格还为时过早，而探讨有关人工智能的研发者、生产者、使用者等相关主体的责任，才是立法者应关注的重点。比如关于特斯拉等自动驾驶汽车的责任，首先应讨论的，并非自动驾驶车辆本身要不要承担责任，而应该重点讨论背后的研发者、生产者、使用者甚至是管理者、服务者等人员、企业的责任。这些责任承担是一个系统工程，除了驾驶员或使用者之外，其他的算法设计者、汽车生产者、保险公司甚至交通管理者都有可能承担责任，而这些主体之间还可能还会涉及共同责任。
“让人工智能体本身承担责任，其实是让背后的特定人或者企业逃避责任。”彭诚信说，他引用其他学者的话强调说：“过度炒作人工智能技术不仅危言耸听，而且具有误导性，有可能会转移公众对重大道德、法律等风险的注意力，使相关从业人员以一种对人工智能可靠性过度自信的态度开发新技术。只有聚焦法律与道德维度，人工智能的发展才会以人类社会的稳定与福祉为前提。”
最后，他再次强调，数字伦理的法律之治，根本上还是线下社会自然人、企业的伦理之治，要守住底线而无害他人。而要做到这此点，社会就必须提升所有人，包括自然人、企业、法律和政策的制定者等的基本法律与道德素养。
“2022世界人工智能大会·亚洲科技伦理治理与可持续发展论坛”由上海现代服务业联合会主办，上海现代服务业联合会大数据中心承办，CCF计算法学分会、上海市自然辩证法研究会、上海交通大学计算法学与AI伦理研究中心、商汤科技、澳鹏 (Appen)协办。
【记者】郜小平
【出品】南方产业智库
【作者】 郜小平
南方产业智库
