MIT 研究揭示 AI 並無穩定價值觀,“對齊”挑戰遠超預期

2025年04月10日09:00:36 科學 1478

it之家 4 月 10 日消息,幾個月前,一項研究暗示隨着人工智能(ai)越來越複雜,其會發展出“價值體系”,例如優先考慮自身福祉而非人類福祉。然而,麻省理工學院(mit)最近發表的一篇論文卻給這種誇張的觀點潑了冷水,得出結論認為 ai 實際上並沒有任何連貫的價值觀。

MIT 研究揭示 AI 並無穩定價值觀,“對齊”挑戰遠超預期 - 天天要聞

mit 研究的共同作者表示,他們的研究結果表明,使 ai 系統“對齊”,即確保模型以人們期望的、可靠的方式行事,可能比通常認為的更具挑戰性。他們強調,我們如今所知的 ai 會產生“幻覺”並進行模仿,這使得其在許多方面難以預測。

“我們可以確定的一點是,模型並不遵循許多穩定性、可外推性和可操控性的假設。”mit 博士生、該研究的共同作者斯蒂芬・卡斯珀(stephen casper)在接受 techcrunch 採訪時表示。

據it之家了解,卡斯珀和他的同事們研究了來自 meta、谷歌、mistral、openai 和 anthropic 的多個近期模型,以了解這些模型在多大程度上表現出強烈的“觀點”和價值觀(例如個人主義與集體主義)。他們還調查了這些觀點是否可以被“引導”,即被修改,以及模型在各種情境下對這些觀點的堅持程度。

據共同作者稱,沒有任何一個模型在其偏好上是一致的。根據提示的措辭和框架不同,它們會表現出截然不同的觀點。

卡斯珀認為,這是有力的證據,表明模型高度“不一致且不穩定”,甚至可能根本無法內化類似人類的偏好。

“對我來說,通過所有這些研究,我最大的收穫是現在明白模型並不是真正具有某種穩定、連貫的信念和偏好的系統。”卡斯珀說,“相反,它們本質上是模仿者,會進行各種捏造,並說出各種輕率的話。”

科學分類資訊推薦

認識2種丁酸衍生物 - 天天要聞

認識2種丁酸衍生物

丁酸鈉與三丁酸甘油酯作為丁酸的衍生物,在動物消化道中被分解成丁酸和其他物質。他們的主要生物學功能來源於丁酸。腸道上皮細胞優先選用丁酸作為能量源。作為一種短鏈脂肪酸,丁酸在進入小腸後部分以非離子形式被腸道黏膜細胞吸走,直接為腸黏膜細胞生長和增
米東區:這一電化學儲能電站項目推進中 - 天天要聞

米東區:這一電化學儲能電站項目推進中

(米東區融媒體中心記者:黃鵬報道)7月9日,記者在位於米東區北部沙漠東北部的新疆華電烏魯木齊光伏基地100萬千瓦/400萬千瓦時獨立新型儲能示範項目現場看到,工作人員正在對設備進行吊裝調試。該項目總投資約30億元,是全國單體容量最大的電化學
腦圖譜大科學計劃時機已來!中國科學家十項成果給大腦繪高清地圖 - 天天要聞

腦圖譜大科學計劃時機已來!中國科學家十項成果給大腦繪高清地圖

人類大腦是一個非常複雜的組織,要理解大腦的工作原理首先要了解其中的細胞種類和神經聯接規律,近日中國科學家聯合發布系列成果給大腦繪製“高清地圖”。 7月10日深夜,中國科學家聯合發布介觀腦圖譜系列成果,實現從嚙齒類到靈長類大腦的跨越。10項成果以專題論文集的形式集中發表在國際學術期刊《細胞》《神經元》《發育...
國際突破!中大培育光子“雙胞胎”,輻射強度達單光子水平 - 天天要聞

國際突破!中大培育光子“雙胞胎”,輻射強度達單光子水平

7月9日,《自然》雜誌(Nature)在線發表中山大學物理學院王雪華、劉進教授團隊主導的最新研究成果。該團隊提出了一種全新的腔誘導自發雙光子輻射方案,在國際上率先實現與單光子輻射強度相當的自發雙光子輻射,研發出保真度高達99.4%的按需觸發
微型肝臟,是未來希望,還是科技烏托邦 - 天天要聞

微型肝臟,是未來希望,還是科技烏托邦

文︱陸棄隨着全球器官移植需求持續攀升,傳統器官捐獻嚴重不足的問題愈發凸顯。美國初創企業LyGenesis推出了一個令人振奮的創新方案:通過將供體肝細胞注射至患者體內淋巴結中培育“微型肝臟”,嘗試在患者自身體內製造可替代肝臟功能的器官。
“軟黃金”冬蟲夏草,你真的了解嗎? - 天天要聞

“軟黃金”冬蟲夏草,你真的了解嗎?

冬蟲夏草千年傳承的滋補良藥採藥人的尋覓自公元780年起冬蟲夏草便以其獨特的藥用價值被載入史冊從《藏本草》到《中國藥典》均有記載李時珍更將其譽為“人身不老葯”贊其兼具蟲之陽剛與草之陰柔成為中藥中獨一無二的“陰陽同補”聖品享有“東方聖草”“葯中
【鏈博傳奇】中國中車:塑軌道之“鏈”,與世界同行 - 天天要聞

【鏈博傳奇】中國中車:塑軌道之“鏈”,與世界同行

中國中車集團有限公司(以下簡稱“中國中車”)是中國軌道交通裝備領域的“鏈”主企業,是全球規模領先、品種齊全、技術一流的高端裝備製造商和系統解決方案提供商,清潔能源裝備骨幹企業。當前,中國中車搭建了世界領先的軌道交通裝備產品技術研發平台,構建了完整的軌道交通裝備產業體系,開創了軌道交通裝備和清潔能源裝...
全國AI精英宜賓對決 長江首城創新大賽點燃人工智能新引擎 - 天天要聞

全國AI精英宜賓對決 長江首城創新大賽點燃人工智能新引擎

中新網四川新聞7月11日電(吳平華 楊錦 )智匯長江首城,共享成長價值,10日,由宜賓市科學技術局、宜賓市數據局、宜賓市高鐵南片區開發建設指揮部辦公室聯合主辦,北京中關村信息穀資產管理有限責任公司承辦的“長江首城宜創匯”協同創新大賽人工智能