曾毅:中方团队列出3个与美方不重复的AI安全风险后,基辛格赞叹“你们说得很好”

2025年03月27日23:00:44 历史 4103

3月27日,观察者网与中国互联网治理论坛(中国igf)共同举办了最新一期的科创类谈话节目《心智对话》,主题为“ai与国运:技术跃迁、产业革新背景下的全球治理”。

在对话中,中国科学院自动化研究所研究员、人工智能安全与超级对齐北京市重点实验室主任、联合国人工智能顾问机构专家曾毅提到了他与已故美国前国务卿基辛格的一段交流。

曾毅:中方团队列出3个与美方不重复的AI安全风险后,基辛格赞叹“你们说得很好” - 天天要闻

中国科学院自动化研究所研究员、人工智能安全与超级对齐北京市重点实验室主任、联合国人工智能顾问机构专家曾毅 观察者网

曾毅回忆说,在基辛格最后一次访华期间,曾经问中方对ai安全是否足够重视。曾毅提出,美方团队可以先列出3个ai安全风险,他的团队后列。在曾毅方面也列出3个不重复的风险后,基辛格赞叹:“你们说得很好”,“看来并非美国的技术发展在前,对安全的认知也就一定走在中国前面。”

曾毅解释说,他国关心中方对技术安全的认知,正是基于共护安全、共享发展的逻辑。除了发展的能力、应用的能力,安全也是能力建设的重要维度。

他表示,对ai的治理从来不会影响其发展进程,而是以护航者的角色避免ai“野蛮生长”。同样,注重ai安全也不会影响其发展。

在曾毅看来,所谓“平衡安全和发展”的说法存在问题。“平衡是相互掣肘的意思,好似在说,注重安全,发展必然受阻。”

但是根据曾毅团队近期的实验,人工智能大模型完全可以在几乎不影响问题解决正确率的前提下,将安全属性提升20%-30%。

“如果是真正的发展,治理安全会推进这种稳健的发展;如果你认为受到了治理的影响,可能那本身就是一种野蛮的尝试。”曾毅说。

本文系观察者网独家稿件,未经授权,不得转载。

历史分类资讯推荐

犯贪污罪、洗钱罪、诈骗罪、买卖国家机关证件罪!80后干部杨永被判20年 - 天天要闻

犯贪污罪、洗钱罪、诈骗罪、买卖国家机关证件罪!80后干部杨永被判20年

4月2日,“廉洁四川”发布案例《以案为镜丨骗取公款投资“翻盘” 终陷“败局”》,详情如下:【案卷】杨永,男,汉族,1982年6月生,四川简阳人,2002年7月参加工作,2004年6月加入中国共产党,曾在简阳市原雷家乡人民政府,简阳市财政局国库支付中心、农业农村科工作。2022年1月,杨永因涉嫌严重违纪违法,接受简阳市纪委...
河南西峡:清明时节祭英烈 薪火相传育新人 - 天天要闻

河南西峡:清明时节祭英烈 薪火相传育新人

“芳草萋萋春风暖,鸟语声声花正妍。追忆往昔悼英魂,培育新人薪火传。”为弘扬爱国主义精神,赓续红色血脉,3月31日上午,河南省南阳市西峡县回车镇第一初中以“追寻先烈足迹 勇担时代使命”为主题,组织师生代表前往西峡县烈士陵园开展清明祭扫活动。 上午8时,师生们怀着崇敬的心情,整齐列队来到烈士陵园。他们展开鲜艳...
美日还在密谋,可日本最后“堡垒”已被中国攻破 - 天天要闻

美日还在密谋,可日本最后“堡垒”已被中国攻破

就在3月的最后一周,美国防长赫格塞思展开了对日本的访问,整个过程丝毫没有一点遮掩,非常直截了当的对外公开了自己的目的,公开表示,美国要“遏制中国”,日本是不可或缺的“合作伙伴”。然而,就在美日防长8....
处长夫妇双双被策反!机关单位工作人员要注意这几个方面 - 天天要闻

处长夫妇双双被策反!机关单位工作人员要注意这几个方面

当前,保密工作形势复杂严峻,我党政机关和涉密单位一直是境外间谍情报机构觊觎的重点目标,他们不遗余力进行政治渗透、情报窃密、勾连策反等破坏活动,对我国家安全构成极大威胁。机关、单位工作人员必须绷紧思想之弦,强化危机意识,时刻警钟长鸣。1.利用亲属“迂回策反”某单位涉外部门处长章某某,在境外任职期间被某国...
尹锡悦的最终命运,选在中国清明节当天揭晓 - 天天要闻

尹锡悦的最终命运,选在中国清明节当天揭晓

中国清明节当天,尹锡悦的最终结局将彻底揭晓。 经历了漫长的拉锯战后,韩国宪法法院终于决定,在4月4日上午,也就是中国清明节那天,正式宣布尹锡悦弹劾案的审判结果。 8名宪法法院法官....