Science:AI应成为新法律主体,“跨物种”法律框架亟需制定

2023年10月31日14:32:08 科技 1161

如今,人工智能(AI)发展势头迅猛,AI 代理(Agent)正逐渐成为业内的研究重点。

作为一个智能体,AI 代理能够感知环境,并通过自己的决策和行动来改变环境,进而通过学习和适应能力来提高自身性能。

Science:AI应成为新法律主体,“跨物种”法律框架亟需制定 - 天天要闻

那么,能够独立做出决策的 AI 代理,是否需要负法律责任?在法律中又该如何被定义?

近日,一项发表在权威科学期刊 Science 上的研究论文给出了一种可能的回答。

美国范德比尔特大学法学教授 Daniel Gervais 和斯坦福大学 CodeX 研究院、Nomos AI 创始人兼首席执行官 John Nay 联合发表论文表示:

AI 已经发展到可以作为一个拥有权利和义务的法律主体。因此,在问题变得复杂之前,我们需要制定一个“跨物种”的法律框架,将 AI 作为法律主体来对待。

另外,他们还强调了“零成员有限责任公司”的想法,以及训练一个大型语言模型(LLMs)来监管 AI 代理或是将 AI 系统转化为守法的系统。

相关研究论文以“Artificial intelligence and interspecific law”为题,已发表在 Science 上。


AI操控“零成员有限责任公司”

到目前为止,法律体系一直是单一的,它只允许人类来设计和使用它。在法律体系中,非人类法律主体(如动物)必须通过人类来实现它们的权利,而这些主体只是用来处理人类利益和义务的工具。

然而,将 AI 纳入法律体系与其说是为了界定和保护这些非人类主体的权利和责任,不如说是为了解决与之相关的人类利益和义务问题。

布莱克法律词典》(Black’s Law Dictionary)将法人公司称为“artificial persons”。在美国,一些司法管辖区的法律并不总是明确要求法人公司的最高管理层由人类担任。

美国《统一有限责任公司法》(ULLCA)中提到的“零成员有限责任公司”似乎并不陌生。虽然该条款明确说明,没有成员将导致有限责任公司解散,但 ULLCA 并没有强制执行这一规定。

即使只有一个美国州允许“零成员有限责任公司”存在,根据所谓的“内部事务原则”,这一实体仍可在全国范围内开展业务。根据这一原则,法院将依据成立州的法律来制定管理法人实体内部事务的规则。

如果存在这样一个由 AI 操作的“零成员有限责任公司”,法律将有哪些选择呢?法律无法轻松地将法律后果附加到 AI 的自主行为上(尽管这里的“自主”可能会受到限制)。法律可能会将责任归咎于启动有限责任公司的人类,但这可能需要一个新的法律工具,因为通常情况下,人们不会对他们创建或控制的法人实体的行为承担责任。

此外,不排除 AI 本身可能会提出创建一家新的有限责任公司的申请。法院仍将拥有用于规范法人实体责任的一系列工具,包括赔偿、财产查封和解散等等。法院可以发布各种命令,如禁令,但 AI 将决定是否遵守这些命令。

此外,论文作者还提出了另一种可能:在所有司法管辖区中将“零成员有限责任公司”定为非法,但这将需要全球范围内的广泛立法努力,并可能与促进科技产业的发展相抵触。因此,出现“零成员有限责任公司”的现象应该催使法律体系适应自主 AI 代理的实现。

让 AI 以有限责任公司或其他法律主体的形式运营,具有明确定义的法律主体身份,会带来两个主要好处:首先,它将 AI 确立为可以在法律诉讼中追究赔偿损害的法律实体,为受损害的当事人提供了明确的法律诉求目标;其次,这为机器学习研究人员提供了更明晰的研究方向。

构建合法的“良知”AI

在当前的范式中,似乎有一种路径可以将遵循法律的行为嵌入到由 LLMs 驱动的 AI 代理中。例如,人们可以训练一个 LLMs,用于监视和/或影响主要的 AI 代理,并且可以用作奖励模型。

然而,需要明确的是,许多涉及人类代理的情况最终需要人类对该情境中的合法性做出裁定;这不会因为有 AI 代理而改变。

除了提出的规范性主张,对于未来几年即将出现的高级 AI,关键在于将其纳入我们的法律体系,以便我们可以监测其行为、分配责任、采取必要的防护措施,并引导 AI 研究朝着构建合法的人工“良知”的方向前进。

在数字智能迅猛发展的背景下,关注积极主动的自动犯罪预防至关重要。然而,鉴于不可避免的情况,当 AI 系统无法达到理想行为时,相关公司应当负责向能够向法院证明受到损害的个人支付赔偿金。为实现这一目标,可以拓展需要保持最低商业责任保险政策的范围。

跨物种法律的兴起是不可避免的,但很难预测我们将在这一法律光谱的哪一端结束。一方面,跨物种法律可能涉及修改公司法以适应部分受人类控制的公司实体的运作方式。另一方面,跨物种法律也可能意味着在日常与自主、智能实体的互动中,需要调整法律体系。

科技分类资讯推荐

拓朋D50数字对讲机:建材行业的“全天候通讯指挥官” - 天天要闻

拓朋D50数字对讲机:建材行业的“全天候通讯指挥官”

在粉尘飞扬的水泥厂、轰鸣震耳的搅拌站、机械林立的建筑工地……建筑材料行业的生产与施工场景堪称“极限挑战”。拓朋D50数字对讲机凭借军工级防护、超强信号穿透、智能调度功能,正成为砂石料场、混凝土公司、建筑承包商的“全天候通讯指挥官”,重塑建材
专家称“无菌蛋”很难做到完全无菌 还能放心吃吗? - 天天要闻

专家称“无菌蛋”很难做到完全无菌 还能放心吃吗?

近期,各大电商平台涌现出大量“无菌蛋”产品,商家宣称这类鸡蛋“安全无菌,食用更放心”。所谓“无菌蛋”真的能做到完全无菌吗?“无菌蛋”与可生食鸡蛋是一种产品吗?农业农村部食物与营养发展研究所研究员 朱大洲:实际上,对于鸡蛋来讲是很难做到完全无
“3C认证”成充电宝登机门槛,相机电池、国际航班受影响吗? - 天天要闻

“3C认证”成充电宝登机门槛,相机电池、国际航班受影响吗?

机场收的充电宝15元甩卖?这一现象引发了公众对收缴充电宝是否正规流转的质疑。近日,民航局发布紧急通知,自6月28日起禁止旅客携带没有3C标识、3C标识不清晰、被召回型号或批次的充电宝乘坐境内航班。与此同时,国际航线是否受影响、相机电池等电子产品是否需3C认证等问题也备受关注。新规落地,机场收缴充电宝疑似流入二...
“滞留”机场的充电宝流入二手平台? - 天天要闻

“滞留”机场的充电宝流入二手平台?

近日,民航局发布紧急通知,自6月28日起禁止旅客携带没有3C标识、3C标识不清晰、属于被召回型号或批次的充电宝乘坐境内航班。这两天,社交平台上,不少人晒出一些机场安检处,游客自弃的充电宝堆满回收筐的....
上海海思 AC9610 系列高精度 ADC 芯片全面开售 - 天天要闻

上海海思 AC9610 系列高精度 ADC 芯片全面开售

IT之家 6 月 30 日消息,上海海思今日宣布,海思 AC9610 产品通过 4 个月的客户测试,该产品获得了市场高度认可。即日起,AC9610 系列高精度 ADC 正式进入批量供应阶段。▲ 图源上海海思官方公众号,下同本次共推出 4 款新品 ——AC9610D-24、AC9610D-18、AC9611D-24、AC9611D-18,以差异化性能组合,精准
小米在北京、南京为员工提供小米青年公寓,租金平均1999元/月 - 天天要闻

小米在北京、南京为员工提供小米青年公寓,租金平均1999元/月

IT之家 6 月 30 日消息,据小米行政公众号今日推文,小米在北京、南京上线了一批青年公寓,租金标准为 1999 元 / 月。据了解,公寓所有房型一房一价,均价为公寓所有房型平均月租金,租期在 2025 年 7 月-2028 年 6 月之间享受安居折扣价。IT之家汇总此次上线的“小米青年公寓”主要信息如下:小米北京青年公寓坐落昌平定泗...