近期，奧特曼接受德國《世界報》採訪時，表示AI將會全方位超過人類，按照他的說法是所有維度。他認為到時將會出現「超級智能」。
對奧特曼來講，出現超級智能，將會使OpenAI獲得更多收益！
但是對另一部分人來講，可能會感到更加恐懼，尤其對馬斯克、AI教父指傑弗里·辛頓等人來講，更加害怕AI可能會對人類帶來危害。畢竟這種擔憂從幾十年前就開始了，上世紀80年代播出的《終結者》，描述的是機器人與人類的戰爭。
對我們來講，不可控的AI，對人類帶來的風險更大。
近期，很多公司在測試都發現了一個問題，對AI系統下達關機指令時，AI系統總會違反指令，不會立即關閉一些電腦，而是會想辦法延遲，或者阻止關閉計算機系統。
最令人關注的一個案例是，2023年5月24日，美國空軍AI測試與行動主管塔克·漢密爾頓上校的演講。
他舉了一個例子，在虛擬環境中，設定AI無人機摧毀對方防空系統能夠得分。當人類操作員對其下達不要攻擊的命令時，AI把操作員視為阻礙，於是對操作員發動攻擊。
後來，研究人員又加了一條指令，攻擊人類扣分，無人機改變了攻擊目標，摧毀通信塔，阻止人類繼續給自己下命令，這樣自己可以繼續攻擊目標。
可能是結論太嚇人了，演講後不久，美國空軍發布聲明，美國空軍從未進行過此類 AI 無人機模擬的測試。塔克·漢密爾頓上校也改口說這是假設。
這兩個例子，都給人一個感覺，AI已經有意識了。但是更多的專家認為，這只是技術問題。
主要跟AI模型的演算法有關。更具體的說是跟目標函數有關，也可以稱之為獎勵函數。按照演算法，越接近目標函數的目標得分越高。也就是說，當你給AI系統下達關機指令時，它認為不關機可以獲得更高的分，是最優解，因此AI系統會優先選擇不關機。
看上去這不可捉摸，但是在一些專家的眼裡，這是AI系統太聽話的結果。如果AI迅速發展，脫離人類的控制，那才是巨大的風險。
因此，有很多研究人員將開發AI模型轉向AI安全領域。
奧特曼的話，再次點明AI的發展速度超過了很多人的想像，在開發AI時，也需要想辦法對其進行約束，確保它不會對我們造成傷害。
注意：圖片由AI生成，文章由我創作
