「我認為賦予人工智慧體獨立的法律人格還為時過早。正如有學者指出的，『過多強調人工智慧擬人化，可能會誤導公眾和政策制定者提出錯誤的問題，進而衍生出無意義的辯論方向』。換句話說，『過多機器人是否承擔法律責任，會導致忽略背後的人的法律問題』。」
在「2022世界人工智慧大會·亞洲科技倫理治理與可持續發展論壇」上，上海交通大學凱原法學院院長、特聘教授彭誠信以《數字倫理中的法律之治》為題發表主旨演講。
人工智慧的可信向善歸根結底是人
彭誠信從以下幾點談數字倫理中的法律之治：第一，數字社會當中倫理之治的根本在人。人工智慧的可信向善，歸根結底還是人的可信向善，這既包括演算法的設計者等技術人員，也包括企業生產者、消費者、使用者等等。
第二，自然人向善的前提是首先要做個職業人、倫理人或者好人，而非僅是趨利動物或者趨向資本的動物。這就需要科技工作者、企業家以及自然人具有基本職業要求與職業素養，然而人性是有弱點的，因此我們才有必要追求可信向善。
彭誠信舉了兩個例子：一個是一席演講者徐淼等以《騎手謎雲》為題所做的演講，其內容是在演講者研究了1907份判決書基礎上所做出。其中有句話令人印象深刻，「外賣系統里不僅僅有演算法，還藏匿了許許多多的公司，而這些公司錯綜複雜交匯而成的法律關係網路，正把騎手死死地捆住。當騎手跌入前方這個大坑的時候，其中任何一家公司，都不足以構成他的用人單位。」
另一個案例則是「大數據殺熟案」，有用戶在攜程網訂酒店，貴賓鑽石會員享受了優惠價，但入住時卻發現比普通消費者還貴了一倍多，於是這名用戶認為受到了欺騙並提起了訴訟，要求補償和不再受隱私條款的束縛。二審法院認為被告攜程公司的行為構成價格欺詐，需按差額房費的三倍支付賠償金，但沒有支持用戶免受隱私政策束縛的請求。
第三，數字倫理法律之治的前提是把法律人該做的事做好，也就是法律人的職業精神。
該不該賦予AI獨立法律人格
針對上述三點，彭誠信認為，法律人應該做好的第一件事，就是要釐清法律的基本原理。以數據與個人信息保護法為例，數字經濟面臨的最重要問題就是數據利用和個人信息保護或者隱私保護的平衡問題。因此，要將數據、個人信息、隱私等基本概念分清楚，釐清個人信息的權利屬性，尤其是個人與企業如何分配個人信息的財產權益。這些都是數字法學中的基本問題。
彭誠信認為，當前，各地都在以元宇宙、通用人工智慧甚至強人工智慧等概念為題大談如何發展相關產業。實際上，在人工智慧發展與創新的過程中，一定不能忽視包括數學、物理學、量子物理、計算機科學與技術、統計學、包括法學等基礎學科的作用，尤其是這些基礎學科之間的交叉研究，否則這些發展就是空中樓閣，我們仍舊會在基礎設施、基礎工藝、基礎理論上被「卡脖子」。
他建議，應該利用尖端技術的發展來再帶動基礎理論的研究與發展，就好比新中國成立之初利用原子彈帶動數學、物理、化學等基礎科學的發展，十一屆三中後利用市場經濟、改革開放帶動經濟學、法學等社會科學基本原理的發展歷程，這才是正確的發展之道。對此，彭誠信還借用麻省理工學院校長L. Rafael Reif教授的話總結說，「只有隨著基礎科學的進步，社會也才能進步」。
法律人應該做好的第二件事，就是完善法律監管。可信向善的外部約束是，人以及企業的行為要合規、合法，這就需要對人工智慧發展建構體系化的法律監管框架，建立全流程生命周期的程序化監管制度。
此外，法律人應該做好第三件事，即釐清法律關係中的責任分配，確立人們的行為規範。人工智慧與傳統技術最大的區別就在於其具備的深度學習與思考能力。有學者甚至提出要賦予人工智慧獨立的法律人格。
對此，彭誠信認為，賦予人工智慧體獨立的法律人格還為時過早，而探討有關人工智慧的研發者、生產者、使用者等相關主體的責任，才是立法者應關注的重點。比如關於特斯拉等自動駕駛汽車的責任，首先應討論的，並非自動駕駛車輛本身要不要承擔責任，而應該重點討論背後的研發者、生產者、使用者甚至是管理者、服務者等人員、企業的責任。這些責任承擔是一個系統工程，除了駕駛員或使用者之外，其他的演算法設計者、汽車生產者、保險公司甚至交通管理者都有可能承擔責任，而這些主體之間還可能還會涉及共同責任。
「讓人工智慧體本身承擔責任，其實是讓背後的特定人或者企業逃避責任。」彭誠信說，他引用其他學者的話強調說：「過度炒作人工智慧技術不僅危言聳聽，而且具有誤導性，有可能會轉移公眾對重大道德、法律等風險的注意力，使相關從業人員以一種對人工智慧可靠性過度自信的態度開發新技術。只有聚焦法律與道德維度，人工智慧的發展才會以人類社會的穩定與福祉為前提。」
最後，他再次強調，數字倫理的法律之治，根本上還是線下社會自然人、企業的倫理之治，要守住底線而無害他人。而要做到這此點，社會就必須提升所有人，包括自然人、企業、法律和政策的制定者等的基本法律與道德素養。
「2022世界人工智慧大會·亞洲科技倫理治理與可持續發展論壇」由上海現代服務業聯合會主辦，上海現代服務業聯合會大數據中心承辦，CCF計演算法學分會、上海市自然辯證法研究會、上海交通大學計演算法學與AI倫理研究中心、商湯科技、澳鵬 (Appen)協辦。
【記者】郜小平
【出品】南方產業智庫
【作者】 郜小平
南方產業智庫
