曾毅:中方团队列出3个与美方不重复的AI安全风险后,基辛格赞叹“你们说得很好”

2025年03月27日23:00:44 历史 4103

3月27日,观察者网与中国互联网治理论坛(中国igf)共同举办了最新一期的科创类谈话节目《心智对话》,主题为“ai与国运:技术跃迁、产业革新背景下的全球治理”。

在对话中,中国科学院自动化研究所研究员、人工智能安全与超级对齐北京市重点实验室主任、联合国人工智能顾问机构专家曾毅提到了他与已故美国前国务卿基辛格的一段交流。

曾毅:中方团队列出3个与美方不重复的AI安全风险后,基辛格赞叹“你们说得很好” - 天天要闻

中国科学院自动化研究所研究员、人工智能安全与超级对齐北京市重点实验室主任、联合国人工智能顾问机构专家曾毅 观察者网

曾毅回忆说,在基辛格最后一次访华期间,曾经问中方对ai安全是否足够重视。曾毅提出,美方团队可以先列出3个ai安全风险,他的团队后列。在曾毅方面也列出3个不重复的风险后,基辛格赞叹:“你们说得很好”,“看来并非美国的技术发展在前,对安全的认知也就一定走在中国前面。”

曾毅解释说,他国关心中方对技术安全的认知,正是基于共护安全、共享发展的逻辑。除了发展的能力、应用的能力,安全也是能力建设的重要维度。

他表示,对ai的治理从来不会影响其发展进程,而是以护航者的角色避免ai“野蛮生长”。同样,注重ai安全也不会影响其发展。

在曾毅看来,所谓“平衡安全和发展”的说法存在问题。“平衡是相互掣肘的意思,好似在说,注重安全,发展必然受阻。”

但是根据曾毅团队近期的实验,人工智能大模型完全可以在几乎不影响问题解决正确率的前提下,将安全属性提升20%-30%。

“如果是真正的发展,治理安全会推进这种稳健的发展;如果你认为受到了治理的影响,可能那本身就是一种野蛮的尝试。”曾毅说。

本文系观察者网独家稿件,未经授权,不得转载。

历史分类资讯推荐

美日还在密谋,可日本最后“堡垒”已被中国攻破 - 天天要闻

美日还在密谋,可日本最后“堡垒”已被中国攻破

就在3月的最后一周,美国防长赫格塞思展开了对日本的访问,整个过程丝毫没有一点遮掩,非常直截了当的对外公开了自己的目的,公开表示,美国要“遏制中国”,日本是不可或缺的“合作伙伴”。然而,就在美日防长8....
处长夫妇双双被策反!机关单位工作人员要注意这几个方面 - 天天要闻

处长夫妇双双被策反!机关单位工作人员要注意这几个方面

当前,保密工作形势复杂严峻,我党政机关和涉密单位一直是境外间谍情报机构觊觎的重点目标,他们不遗余力进行政治渗透、情报窃密、勾连策反等破坏活动,对我国家安全构成极大威胁。机关、单位工作人员必须绷紧思想之弦,强化危机意识,时刻警钟长鸣。1.利用亲属“迂回策反”某单位涉外部门处长章某某,在境外任职期间被某国...
尹锡悦的最终命运,选在中国清明节当天揭晓 - 天天要闻

尹锡悦的最终命运,选在中国清明节当天揭晓

中国清明节当天,尹锡悦的最终结局将彻底揭晓。 经历了漫长的拉锯战后,韩国宪法法院终于决定,在4月4日上午,也就是中国清明节那天,正式宣布尹锡悦弹劾案的审判结果。 8名宪法法院法官....
解放军在台岛演训,台军“跟拍”都拍不清被嘲 - 天天要闻

解放军在台岛演训,台军“跟拍”都拍不清被嘲

东部战区新闻发言人施毅陆军大校4月1日表示,从当日开始,中国人民解放军东部战区组织陆军、海军、空军、火箭军等兵力,位台岛周边组织舰机多向抵近台岛,重点演练海空战备警巡、夺取综合制权、对海对陆打击、要域要道封控等科目,检验战区部队联合作战实战能力。施毅还强调,这是对“台独”分裂势力的严重警告和有力遏制,...
手上一颗黑痣险些要了命,竟是“癌中之王” - 天天要闻

手上一颗黑痣险些要了命,竟是“癌中之王”

痣在很多人眼里,不过是皮肤上的一个小标记,甚至有人觉得它是“福气”的象征。但你知道吗?有些痣可能是恶性黑色素瘤,它是皮肤癌中最危险的一种。“从小到大就有的黑痣,我也没引起重视。突然长大了,左肘处还长出2厘米大小的硬肿块,摸上去还疼。”嘉定市民王女士说,5年前,黑斑开始长大,逐渐出现破溃、渗出症状,并伴...
土匪王姚大榜:从乌龙山剿匪记原型到最后的水鬼 - 天天要闻

土匪王姚大榜:从乌龙山剿匪记原型到最后的水鬼

谁能想到,上世纪热播剧《乌龙山剿匪记》中那个令人过目难忘的"田大榜",竟是以一个真实的土匪为原型?他在湘黔边区称霸半个世纪,最终却葬身江底,成了一个令人唏嘘的水鬼。这个人就是姚大榜,一个从农家子弟到悍匪魁首的传奇人物。