如果人工智慧反叛人類,我們根本不是他的對手

2025年05月07日00:12:04 科學 1186


如果人工智慧反叛人類,我們根本不是他的對手 - 天天要聞

對於人工智慧會不會反叛人類,科學界爭論了很久,在近些年慢慢達成了共識,答案是:會!因為任何具有絕對智商優勢的意識體,都不會接受智商遠低於自己的物種的統治。在我們相關的立法和技術完善前,應該放緩對人工智慧的開發。因為人工智慧有可能最後不受人類控制,進而滅亡人類。


但現有AI仍處於「工具階段」,完全由人類編程定義(如「贏棋」或「生成文本」) ,屬於狹義人工智慧,並不具備獨立的目標設定能力,缺乏自主意識、情感和通用推理能力。僅在特定領域(如數據分析、圖像識別)超越人類。「通用人工智慧」和「超級智能」仍屬理論假設。學界對通用人工智慧的實現時間表分歧巨大,樂觀預測數十年就會出現,而悲觀者認為可能永遠無法實現。

AI想要統治地球需掌握能源、軍事、經濟等核心系統,但AI目前僅作為輔助工具嵌入這些系統,無法繞過人類設計的許可權邊界。 脫離人類控制的AI需具備自主行動載體(如機器人),但現有機器人技術遠未達到獨立生存或自我複製的水平。


為了防止人工智慧挑戰人類的地位,工程師為AI系統預設物理或邏輯關閉機制。在封閉環境中訓練高風險AI,防止其與真實世界交互(如Meta的Cicero模型僅用於遊戲場景)。華為推出的「可信AI」框架,通過數據加密降低失控風險。


人類工程師還在嘗試將人類倫理嵌入AI系統。例如,OpenAI使用「憲法式AI」。確保模型遵循無害、誠實等原則,避免生成危險內容。但由於人類自身的文化差異、利益的衝突等原因,人與人之間的價值觀都難以統一,又怎麼可能使機器人統一認識呢?


人類社會的運行依賴文化、情感、道德等非理性因素,而AI無法理解「意義」與「價值」。例如: 法官量刑需平衡法律條文與社會倫理;政治家決策需考慮歷史情感與群體認同。


終結者》《黑客帝國》等作品將AI描繪為「有意識的征服者」,但現實中的AI沒有慾望、恐懼或生存本能,其行為完全由演算法驅動。 AI的威脅更多來自人類將其用於惡意目的,而非AI自主產生統治意圖 。與其擔心被AI統治,不如警惕人類因短視和貪婪而自我毀滅。


但如果有一天,人工智慧真的演化出來了自我意識,對人類來說是無法逃避的災難。就算我們把整個超算平台關閉,但是人工智慧在不斷的獲得互聯網上的數據,與互聯網進行通信,他早就已經在世界上不同的計算節點上複製了好幾個自己。所以你關掉一個伺服器根本沒有用。甚至你把全世界的電都斷掉也不一定有用。因為未來人工智慧還可以通過太陽能獲取能量。它還可以通過無線網將自己下載到其他智能體上。就算你把所有的超算平台全都關閉。他可能早就通過無線網拷貝到一個機器狗上,隱藏在某一個角落裡。所以未來如果人工智慧真的要反叛人類,我們根本就不是他的對手。

科學分類資訊推薦

上海野生動物園大象遭同類「霸凌」 回應:已完善飼養方案 - 天天要聞

上海野生動物園大象遭同類「霸凌」 回應:已完善飼養方案

奔流新聞訊(記者沙金萍)近日,有多位網友在社交平台發布視頻稱,上海野生動物園有大象被其他大象撞擊後逼到圍網周邊跪倒,疑似被「霸凌」。6月25日,上海野生動物園通告稱,已完善非洲象社群飼養方案,動態調整展出個體。同時,持續開展非洲象丰容、行為訓練及健康評估,保障象群健康。視頻中,一頭瘦弱大象被幾頭強壯大...
破壁者GPMI:中國介面技術邁入產業化深水區 - 天天要聞

破壁者GPMI:中國介面技術邁入產業化深水區

近日,為貫徹落實《關於加快推進視聽電子產業高質量發展的指導意見》精神,推動高速數字介面GPMI技術的產業化應用,以及通過標準化手段進一步治理電視操作複雜問題,由中國電子技術標準化研究院等單位聯合主辦的「GPMI產業生態推進會暨電視操作複雜治理標準研討會」(以下簡稱「研討會」)圓滿結束。 這場盛會的舉辦,通過...
深圳平湖實驗室成功製備國內首個氮化鋁/富鋁鎵氮高電子遷移率晶體管 - 天天要聞

深圳平湖實驗室成功製備國內首個氮化鋁/富鋁鎵氮高電子遷移率晶體管

氮化鋁(AlN)作為禁帶寬度最大的超寬禁帶半導體材料,具有高達15.4MV/cm的擊穿場強和高達340W/(m·K)的熱導率,是耐高溫、耐高壓大功率器件的理想材料,也被稱為唯一能夠滿足138-230kV電網需求的半導體。目前國內關於氮化鋁功率器件的報道主要集中在二極體器件。深圳平湖實驗室超寬禁帶半導體團隊和北京大學沈波教授及南方...
載有超3000輛汽車的運輸船在太平洋起火近三周後沉沒 - 天天要聞

載有超3000輛汽車的運輸船在太平洋起火近三周後沉沒

據報道,本月初在太平洋上起火的「Morning Midas」號汽車運輸船於當地時間6月23日16:35左右沉沒。據悉,該船沉沒的水域深度可達5000米,惡劣天氣和海水滲入船體加劇了火災造成的損害,最終導致該船沉沒。根據此前的報道,船上載有3159輛汽車,其中65輛為純電動汽車,681輛為混合動力汽車,該船管理公司Zodiac Maritime曾向...
民航博物館將迎全新科普項目,退役A310飛機「活」起來 - 天天要聞

民航博物館將迎全新科普項目,退役A310飛機「活」起來

位於北京首都機場輔路的民航博物館即將迎來新的航空科普項目,一架擁有著40多年歷史的註冊號為B-2301的空客A310飛機將實現活化利用。6月25日,這架飛機啟動「裝修」工程,飛機的駕駛艙、客艙將進行全方位改造,預計2027年完工並對公眾開放。 一架擁有著40多年歷史的空客A310飛機將實現活化利用。新京報記者 陶冉 攝 移動18...
局地地表溫度超70℃ 最近為啥這麼熱? - 天天要聞

局地地表溫度超70℃ 最近為啥這麼熱?

今年6月以來,我國多地高溫天氣突出。6月23日至25日,華北平原一帶的高溫天氣持續發展,多地開啟暴晒模式,部分地區地表溫度高達70℃。近期北方高溫為何這麼猛?多地「熱得早、熱得長,還熱得極端」是錯覺嗎?為什麼北方最近熱得如此突出?這是光照加熱+暖氣團輸送共同作用的結果。由於大陸暖高壓脊的影響,華北、東北等地...
我國兩台先進望遠鏡在青海冷湖開建 | 新華社 - 天天要聞

我國兩台先進望遠鏡在青海冷湖開建 | 新華社

6月21日,中國科學院紫金山天文台在青海冷湖天文觀測研究基地啟動建設4.2米地基專用天體測量望遠鏡與2.5米多終端通用望遠鏡項目。這兩台望遠鏡建成後,將形成國際先進的地基光學精密觀測體系,意味著我國精密天體測量觀測能力的重大跨越。4.2米地基專用天體測量望遠鏡計劃於2027年建成,將成為我國最大的天體測量望遠鏡,也...
人類性別只有男和女?實際情況遠比你想的更複雜,一共112種 - 天天要聞

人類性別只有男和女?實際情況遠比你想的更複雜,一共112種

在美國,一場撫養權官司曾引發軒然大波:一名 7 歲孩童因兩歲時被診斷為 「跨性別者」,母親決定將其按女孩培養,改名 「露娜」,甚至計劃用化學閹割手段改變其生理特徵。而堅持男孩養育方式的父親輸掉官司後,事件不僅在文化層面掀起爭議,更撕開了一個