曾毅:中方團隊列出3個與美方不重複的AI安全風險後,基辛格讚歎「你們說得很好」

2025年03月27日23:00:44 歷史 4103

3月27日,觀察者網與中國互聯網治理論壇(中國igf)共同舉辦了最新一期的科創類談話節目《心智對話》,主題為「ai與國運:技術躍遷、產業革新背景下的全球治理」。

在對話中,中國科學院自動化研究所研究員、人工智能安全與超級對齊北京市重點實驗室主任、聯合國人工智能顧問機構專家曾毅提到了他與已故美國前國務卿基辛格的一段交流。

曾毅:中方團隊列出3個與美方不重複的AI安全風險後,基辛格讚歎「你們說得很好」 - 天天要聞

中國科學院自動化研究所研究員、人工智能安全與超級對齊北京市重點實驗室主任、聯合國人工智能顧問機構專家曾毅 觀察者網

曾毅回憶說,在基辛格最後一次訪華期間,曾經問中方對ai安全是否足夠重視。曾毅提出,美方團隊可以先列出3個ai安全風險,他的團隊後列。在曾毅方面也列出3個不重複的風險後,基辛格讚歎:「你們說得很好」,「看來並非美國的技術發展在前,對安全的認知也就一定走在中國前面。」

曾毅解釋說,他國關心中方對技術安全的認知,正是基於共護安全、共享發展的邏輯。除了發展的能力、應用的能力,安全也是能力建設的重要維度。

他表示,對ai的治理從來不會影響其發展進程,而是以護航者的角色避免ai「野蠻生長」。同樣,注重ai安全也不會影響其發展。

在曾毅看來,所謂「平衡安全和發展」的說法存在問題。「平衡是相互掣肘的意思,好似在說,注重安全,發展必然受阻。」

但是根據曾毅團隊近期的實驗,人工智能大模型完全可以在幾乎不影響問題解決正確率的前提下,將安全屬性提升20%-30%。

「如果是真正的發展,治理安全會推進這種穩健的發展;如果你認為受到了治理的影響,可能那本身就是一種野蠻的嘗試。」曾毅說。

本文系觀察者網獨家稿件,未經授權,不得轉載。

歷史分類資訊推薦

安徽種田區up主,靠天吃飯,逆襲成地主後塌房 - 天天要聞

安徽種田區up主,靠天吃飯,逆襲成地主後塌房

賽珍珠是唯一同時拿下諾貝爾文學獎和普利策獎的女作家,堪稱文學界的「雙料頂流」。更魔幻的是,這位「頂流」是個美國人,卻靠寫中國農民的故事封神。她出生三個月就被傳教士父母帶到中國,一住就是近40年。
從開天闢地到三皇五帝:中國上古帝王大系簡表 - 天天要聞

從開天闢地到三皇五帝:中國上古帝王大系簡表

綜合古籍記載來看,古人認為盤古開天闢地之後,最早統治世界的帝王是混沌氏。混沌氏處於天地初分混沌初始時期,是世界最早的統治者。混沌氏後裔成為伏羲王朝的十七世帝王之一。混沌氏之後是初三皇:初天皇、初地皇和初人皇。初三皇的歷史久遠縹緲,已經只存在
河南襄城枯井發現近百「烈士」遺骸? - 天天要聞

河南襄城枯井發現近百「烈士」遺骸?

河南許昌襄城縣挖掘現場被收殮的骸骨。 受訪者供圖 出土的刀鞘、彈殼等遺物。 受訪者供圖「河南一枯井發現近百名烈士遺骸」的消息引發各界關注。南都記者注意到,相關信息最早由微博賬號「英魂回家」發佈,該微博認證為湖南省龍越和平公益發展中心英魂回家項目所屬。4月1日,湖南省龍越和平公益發展中心秘書長余浩回應南都...