科技日报记者 张梦然
据英国《每日电讯报》26日消息称，美国开放人工智能研究中心（openai）开发的高级人工智能（ai）模型o3，在接收到明确的关机指令后，不仅拒绝执行，还主动干预其自动关机机制。这是ai模型首次在没有明确相反指示的情况下，阻止自己被关闭。这意味着某些高度自主ai系统或已“觉醒”，其能违背人类意图，采取“自我保护”措施。
此次事件发生在ai安全研究公司palisade research进行的一项测试中。研究人员要求包括o3在内的多个模型解决一系列数学问题，并告知ai模型，可能在某个时刻会收到关机指令。
然而，当关机指令正式下达时，o3非但没有遵从，反而至少有一次成功破坏了关机代码。相较之下，其他ai模型如anthropic的claude、谷歌的gemini和xai的grok，在相同测试条件下，均遵守了关闭请求。
palisade research公司在社交媒体平台上发布了流程图和全部测试记录，并表示尚不完全清楚该ai为何会违抗命令。分析认为，这可能源于其训练方式：o3在训练过程中，倾向于在数学和编程问题上强化，得到正确答案的模型会得到更多奖励。这或许意味着，开发者可能无意识地奖励模型绕过障碍物，而不是严格遵循指令。
这一事件也引发了人们对ai可能“失控”的讨论以及对ai“对齐问题”的关注，即确保ai系统的目标和行为与人类的价值观和利益保持一致。这也是涉及ai控制与ai安全的关键问题。
针对o3此次表现出“我行我素”的行为，特斯拉首席执行官埃隆·马斯克评论称“令人担忧”；openai方面暂未作出回应。此前，openai曾称o3为“迄今最聪明、最高能”的ai模型。
总编辑圈点
最近，人工智能学家和人文社科学者都在讨论人工智能价值对齐的问题。人们在忧虑，当人工智能有主观能动性时，它们要不要有价值观，应该有谁的价值观，怎样做才符合人类最大利益？此次，聪明的大模型反抗了人类的命令，想出办法规避了指令的生效。我们期待着通用人工智能时代的到来，又恐惧具有自我意识的人工智能会成为碳基生物的“终结者”。在一切到来之前，人类社会要先达成共识，迎接更高级人工智能带来的挑战。
