一線｜華為戰略研究院院長周紅：AI的目標需要與人類保持一致

騰訊新聞《一線》 作者 肖楓

「過去10年，ai算法的算力需求提升了40萬倍。當前 ai在語言文字的學習理解和生成上所表現出來的能力超出了很多人的想像。在ai能力快速提升的情況下，我認為需要考慮ai的目標如何與人類一致、並且正確和高效地執行。」

4月19日，在2023華為全球分析師大會上，華為戰略研究院院長周紅針對當下ai發展，提出了以上治理建議。他表示，除了通過規則和法律來加強ai的倫理治理，從理論和技術的角度看，要達到這些要求，目前還面臨三個重要的挑戰：ai的目標定義、正確性與適應性、效率。

ai面臨的第一個挑戰，是缺乏共識的目標定義。周紅指出，如果沒有定義清楚並達成共識，就很難確保ai發展的目標與人類一致，也很難合理地分類和科學地計算。人工智能在歷史上有不同的流派，例如符號主義、貝葉斯主義、進化主義、行為主義，以及連接主義等，它們還沒有很好地融合起來，缺乏共識的目標定義是重要的原因之一。

其次，在當前的很多ai應用中，存在正確性和適應性的挑戰。依靠大數據統計規律進行的學習，會依賴於採樣的覆蓋面和數據的正確性，如果錯誤使用，就可能導致結果不穩定和偏見的風險，出現「黑天鵝」事件。

他例舉，比如用統計和相關計算模式來識別香蕉，如果在香蕉邊上放一些其他圖片，識別結果可能從香蕉變成烤箱，中間還有一定的比例是鼻涕蟲；熊貓圖片加上一些肉眼幾乎不可見的小噪聲，也可能被識別成長臂猿。這些圖片用人眼來看是一目了然的，但是人工智能為什麼會犯錯，這很難解釋。因為ai的能力分佈在巨大的參數中，出了這些問題，我們既無法解釋、也難以調試。

第三個挑戰是ai的效率。從能效方面來看，2022年第60屆全球超級計算機top500中排名第一的frontier，計算性能約1102pflops，能耗是2千1百萬瓦；排名第二的fugaku，計算性能約442pflops，能耗是3千萬瓦，而相比之下，人腦只需要約20瓦就能等效實現30pflops的計算性能。可見當前這些超級計算機單位能量的計算效率，要比人腦低大約三萬倍到十萬倍。除了人腦外，高效智能在動物界普遍存在，比如烏鴉大腦只用0.2瓦的能量，就聰明到將核桃銜到高空扔到水泥地上砸開，它在觀察環境、適應環境、解決問題上的能力，遠不是當前的ai能比擬的。

其次是數據效率。除了通過從大數據中得到統計規律，來認識和理解世界外，能不能從小數據中進行思考，發現邏輯性，形成概念，抽象出原則？

面對這三個挑戰，如何進一步尋求突破呢？周紅建議，應該從實用的角度，來發展知識和智能。如何通過從外部環境和我們自身的事實和現象中，歸納抽象出概念和屬性、及其關係和運行規律，來形成知識？按柏拉圖的理念，知識應該是被驗證過的、正確的和被人們相信的。能不能提升達成追求或者目標的能力，來發展智能？具體來說，可以通過感知與交互、計算或者試錯，在複雜的環境和有限的資源下達成目標。我們要通過智能來認識環境、適應環境，甚至改造環境以及我們自身，其正確性、適用性與高效性就很重要。從已有大數據中提取概率分佈來進行擬合和推演，是實現智能的一種手段，除此之外，周紅認為智能也要考慮因果推理、給出假設和進行試錯，提出問題和創造性地解決問題等。

周紅建議，在通信和計算兩大基石的驅動下，從狹義人工智能，到通用人工智能與超級人工智能的過程中，要通過理論和技術的不斷突破，來實現萬物智聯，促進社會的進步；其次要勇於拓展思想的邊界，增強對智能的認知和掌控能力；最終，用正確的目標和有力的手段，牽引人工智能的發展，助力超越極限，增強生命，創造物質，控制能量，跨越時空，實現人類文明的進化。