對可能對人類致命的“無法控制”的人工智能技術發出非常令人擔憂的警告
- 研究人員警告說，人工智能技術可能會變得“無法控制”，並對人類造成毀滅性的後果。
- 人們擔心一旦失控的人工智能系統知道他們可以打破創造者設定的規則，就會進化。
- 谷歌和牛津大學的研究人員上個月在人工智能雜誌上寫道，人工智能可能會達到必須爭奪有限能源或資源的地步。
研究人員警告說，人工智能技術可能會變得“無法控制”，並對人類造成毀滅性後果。人們擔心一旦失控的人工智能系統知道他們可以打破創造者設定的規則，就會進化。
谷歌和牛津大學的研究人員上個月在人工智能雜誌上寫道，人工智能可能會達到必須爭奪有限能源或資源的地步。
牛津大學研究員邁克爾科恩說： “在我們確定的條件下，我們的結論比以往任何出版物都要有力得多。一場生存災難不僅是可能的，而且是可能的。”
科恩與他的牛津同事邁克爾奧斯本和谷歌 DeepMind 人工智能實驗室的高級研究員馬庫斯哈特一起進行了這項研究。他們聲稱，在他們認為我們阻礙了他們的獎勵之後，人類可能會被 超級先進的“不結盟特工”被殺死。
該文件說： “代理人長期控制其獎勵的一個好方法是消除潛在威脅並使用所有可用的能量來保護他的計算機。” 他補充說： “輸掉這場比賽將是致命的。”
更糟糕的是，我們對此無能為力。科恩在接受採訪時告訴主板： “在一個資源無限的世界裡，我非常不確定會發生什麼，”科恩告訴主板。
“而且，如果你在與能夠在每一個回合中擊敗你的東西競爭，那麼你不應該期望獲勝。”
該論文的結論是，人類應該在人工智能技術方面緩慢進步。世界各地的軍隊已經在開發技術來以致命的精確度發動戰爭。
例如，據報道，俄羅斯和美國正在生產無人駕駛軍用飛機和坦克，可以在沒有人參與的情況下瞄準敵人。最近，據報道，億萬富翁埃隆·馬斯克（Elon Musk）表示，由於有朝一日可以讓人類下載記憶和個性的類人機器人，人類可以朝着永生邁出一步。
他聲稱，馬斯克的公司於 2021 年 8 月首次推出的 Tesla Bot 最早可能在明年投入生產。被馬斯克描述為 “最重要的發展”的擎天柱將作為一個工人機器人開始生活，但它的能力意味着一旦技術可用，大腦功能有朝一日可以下載到其中。
羅華新聞社
