如果人工智慧反叛人類,我們根本不是他的對手

2025年05月07日00:12:04 科學 1186


如果人工智慧反叛人類,我們根本不是他的對手 - 天天要聞

對於人工智慧會不會反叛人類,科學界爭論了很久,在近些年慢慢達成了共識,答案是:會!因為任何具有絕對智商優勢的意識體,都不會接受智商遠低於自己的物種的統治。在我們相關的立法和技術完善前,應該放緩對人工智慧的開發。因為人工智慧有可能最後不受人類控制,進而滅亡人類。


但現有AI仍處於「工具階段」,完全由人類編程定義(如「贏棋」或「生成文本」) ,屬於狹義人工智慧,並不具備獨立的目標設定能力,缺乏自主意識、情感和通用推理能力。僅在特定領域(如數據分析、圖像識別)超越人類。「通用人工智慧」和「超級智能」仍屬理論假設。學界對通用人工智慧的實現時間表分歧巨大,樂觀預測數十年就會出現,而悲觀者認為可能永遠無法實現。

AI想要統治地球需掌握能源、軍事、經濟等核心系統,但AI目前僅作為輔助工具嵌入這些系統,無法繞過人類設計的許可權邊界。 脫離人類控制的AI需具備自主行動載體(如機器人),但現有機器人技術遠未達到獨立生存或自我複製的水平。


為了防止人工智慧挑戰人類的地位,工程師為AI系統預設物理或邏輯關閉機制。在封閉環境中訓練高風險AI,防止其與真實世界交互(如Meta的Cicero模型僅用於遊戲場景)。華為推出的「可信AI」框架,通過數據加密降低失控風險。


人類工程師還在嘗試將人類倫理嵌入AI系統。例如,OpenAI使用「憲法式AI」。確保模型遵循無害、誠實等原則,避免生成危險內容。但由於人類自身的文化差異、利益的衝突等原因,人與人之間的價值觀都難以統一,又怎麼可能使機器人統一認識呢?


人類社會的運行依賴文化、情感、道德等非理性因素,而AI無法理解「意義」與「價值」。例如: 法官量刑需平衡法律條文與社會倫理;政治家決策需考慮歷史情感與群體認同。


終結者》《黑客帝國》等作品將AI描繪為「有意識的征服者」,但現實中的AI沒有慾望、恐懼或生存本能,其行為完全由演算法驅動。 AI的威脅更多來自人類將其用於惡意目的,而非AI自主產生統治意圖 。與其擔心被AI統治,不如警惕人類因短視和貪婪而自我毀滅。


但如果有一天,人工智慧真的演化出來了自我意識,對人類來說是無法逃避的災難。就算我們把整個超算平台關閉,但是人工智慧在不斷的獲得互聯網上的數據,與互聯網進行通信,他早就已經在世界上不同的計算節點上複製了好幾個自己。所以你關掉一個伺服器根本沒有用。甚至你把全世界的電都斷掉也不一定有用。因為未來人工智慧還可以通過太陽能獲取能量。它還可以通過無線網將自己下載到其他智能體上。就算你把所有的超算平台全都關閉。他可能早就通過無線網拷貝到一個機器狗上,隱藏在某一個角落裡。所以未來如果人工智慧真的要反叛人類,我們根本就不是他的對手。

科學分類資訊推薦

又一3D列印技術突破:多波長DLP光固化,實現可溶解支撐 - 天天要聞

又一3D列印技術突破:多波長DLP光固化,實現可溶解支撐

2025年5月31日,南極熊獲悉,來自德克薩斯大學奧斯汀分校的研究人員開發了一種用於多波長數字光處理 (DLP) 3D 列印的新型樹脂系統,能夠使用可溶解支撐快速製造獨立式和非組裝式結構。多色 DLP系統結合了紫外光和可見光響應化學反應,可生產出具有不同溶解度特徵的材料,從而顯著簡化了後處理流程。相關研究以題為「Multic...
今早讀 | 多地網友看到不明飛行物,天文博主回應 - 天天要聞

今早讀 | 多地網友看到不明飛行物,天文博主回應

■ 今日天氣多雲轉陰微風,29到21℃■ 限行尾號不限行地鐵6號線南翠屏站變身「童趣王國」為迎接第75個「六一」國際兒童節,天津軌道交通集團對地鐵6號線南翠屏站進行全面升級改造,在延續「職業體驗」「禮物互換」「寶貝信箱」等經典兒童友好服務的基礎上,精心打造了「童趣」主題車站。該主題車站將於6月1日正式與公眾見面...
江西仙女湖蛇島有多可怕?科考隊不顧反對勘探,被眼前一幕震撼 - 天天要聞

江西仙女湖蛇島有多可怕?科考隊不顧反對勘探,被眼前一幕震撼

「你說蛇島?那地方不能去,真不能去。」王啟文這話一出口,會議室里的空氣就像頓了一下。坐在主位上的徐國超,五十齣頭,戴著一副老花鏡,原本正低頭翻著實驗報告,聽到「蛇島」兩個字,眉頭皺了一下,但眼神卻亮了。「哪兒?你再說一遍?」他抬起頭。「江西
太陽系邊緣驚現「流浪行星」,第九行星謎題添新證 - 天天要聞

太陽系邊緣驚現「流浪行星」,第九行星謎題添新證

普林斯頓大學的科學家團隊在太陽系邊緣發現了一個特殊天體,它奇特的運行軌跡可能為神秘的「第九行星」理論提供關鍵證據。這個編號2017OF201的天體位於柯伊伯帶外側,其巨大的體積和極端的軌道特徵在天文學界引起廣泛關注。程思浩、李佳軒與楊毅達(音譯)組成的普林斯頓研究小組,通過先進計算模型在浩渺星空中鎖定了這個...
牛津科學家預警,蛞蝓狀外星生命,可能來地球殖民掠奪 - 天天要聞

牛津科學家預警,蛞蝓狀外星生命,可能來地球殖民掠奪

牛津大學著名生物學家蒂姆·庫爾森教授發出警示:宇宙中可能存在形似《星球大戰》中赫特人賈巴、臃腫遲緩的蛞蝓狀外星生命,它們若造訪地球,極可能懷有殖民掠奪的惡意。這位為多國政府提供過外星生命諮詢的權威學者認為,人類必須嚴肅看待外星文明可能帶來的生存威脅。庫爾森教授在《歐洲雜誌》撰文指出,基於宇宙物質構成...
實現「可穿戴」監測腫瘤患者「心」問題,中山醫院牽頭又一人工智慧體落地轉化 - 天天要聞

實現「可穿戴」監測腫瘤患者「心」問題,中山醫院牽頭又一人工智慧體落地轉化

生了腫瘤死於心臟,這樣的臨床病例並不少見。近日,復旦大學附屬中山醫院、上海中醫藥大學附屬曙光醫院、復旦大學附屬腫瘤醫院聯合主辦的第四期「免疫檢查點抑製劑相關心血管不良反應臨床診療學習班」傳出消息:「腫瘤心臟病人工智慧聯合體」正式簽約轉化,未來將可實現可穿戴(如手環等),高危患者配戴後進行實時監測,第...
我國科研人員揭開鈣鈦礦光伏電池的「衰老密碼」 - 天天要聞

我國科研人員揭開鈣鈦礦光伏電池的「衰老密碼」

記者從南京航空航天大學了解到,該校郭萬林、趙曉明教授團隊近日成功揭示鈣鈦礦光伏電池的老化機制,提出一套低成本延長電池壽命的解決方案,有望加快推動下一代光伏技術產業化。相關論文5月30日由國際主流學術期刊《科學》在線發表。
將消失76%!「拿什麼拯救你,我們的冰川」 - 天天要聞

將消失76%!「拿什麼拯救你,我們的冰川」

據法新社報道,根據一項國際最新研究,如果全球變暖持續不受控制,全球四分之三以上的冰川將消失,這將加劇全球海平面上升,並危及數十億人的水資源供應。△新加坡《聯合早報》報道:5月28日,阿爾卑斯山脈位於瑞士境內的伯奇冰川發生崩塌,數以噸計的岩石
山東多地夜空現不明飛行物,目擊者稱「大的後面跟著小的」 - 天天要聞

山東多地夜空現不明飛行物,目擊者稱「大的後面跟著小的」

5月30日晚,山東濰坊、日照等地的許多網友在社交媒體發布視頻,稱夜空中有不明飛行物飛過。此外,江蘇、安徽等地的網友也發表視頻稱,看到了夜空中的不明飛行物。相關視頻顯示,畫面中的不明飛行物伴隨著不均勻燃燒,有網友猜測這是火流星。▲不明飛行物划過夜空 圖據網友發布的視頻截圖5月31日早上,網友王女士告訴極目新...