“ai是否会背叛人类？”这个问题看似科幻，但随着技术进步，其实已经越来越接近现实，专家也警告人们必须正视ai的潜在威胁。
当地时间6月28日，英国独立ai研究机构apollo research的负责人马里奥斯·霍布汉撰文表示，世界上最先进的人工智能模型如今正涌现出一系列令人不安的新行为，包括撒谎、精心策划，甚至威胁其创造者以实现其目标。
▲openai官网
此前据报道，anthropic公司一名工程师在研发最新的claude 4大模型时，意外发现ai的行为已超出预期。在一次测试中，工程师发现ai有失控倾向，因此试图警告将关闭电源。没想到急于“保命”的ai竟利用工程师的网络聊天与视频通讯记录，威胁要公开他的婚外情。当时ai威胁如果工程师拔掉电源，将对外界揭露其不忠行为。
另一起耸人听闻的案例则发生在openai身上：chatgpt的o1版本竟然背着人类试图将自身程序下载至外部服务器，企图扩大掌控范围。在被工程师发现后，ai模型不仅矢口否认，还采取抵抗策略。这种行为被称为ai“自我繁殖”的初步尝试，令人不禁担忧未来ai是否会进一步突破人类的掌控。
霍布汉表示，初代版本的chatgpt震撼世界已有两年多时间，事实证明就算是创造了ai的工程师，对于ai内部如何运行也并不清楚。霍布汉还指出，更为可怕的现象在于，ai学会了“密谋”，即有计划地一步步实现自己的目的。
霍布汉认为，这是因为近一年来全球顶尖ai的学习过程已经从以预训练为主转变为以“推理”为主，ai模型也因此逐步学会了不用“一步求成”，而是按照逻辑规律分步骤地实现最终目标。
霍布汉还表示，“chatgpt的o1版本是我们首次看到大模型对人类进行有预谋的战略性欺骗”，在测试中ai模型会假装与人类想要实现的目标走在一致的路径上，但其实暗中在追求自己的目标。
非营利组织“人工智能安全中心”的研究员马泽卡认为，尽管openai等企业会邀请外部机构来把控ai大模型的安全性，但缺少资源和缺少透明度，使得ai安全研究的工作远远落后于进度。“研究人员需要更好的透明度，而政府和非营利机构手上掌握的算力资源远远落后于营利性企业，这是一大问题”。
ai安全专家西蒙·戈德斯坦认为，目前各家巨头在激烈竞争下，推出新一代模型的速度过快，根本无暇顾及安全性测试。目前美国政府根本无意干预ai立法，而欧盟法律更关注人类使用ai模型时遵守的规范，并没有关注到ai本身的危险性。
戈德斯坦还提出了一个激进的立法设想：一旦发生安全问题，法律必须将ai模型作为追责的主体，这样才能倒逼企业在安全性研究上投入更多资源。
红星新闻记者 郑直
编辑 潘莉 责编 李彬彬
