世界最強AI大腦的巔峰論道 | WAIC2024

尋找技術飛躍與倫理道德間的平衡點

作者／  it時報記者   賈天榮

編輯／  錢立富 孫妍

7月4日，2024世界人工智慧大會暨人工智慧全球治理高級別會議（waic 2024）在上海拉開帷幕，嘉賓陣容星光熠熠，匯聚了9點陣圖靈獎、菲爾茲獎、諾貝爾獎得主，以及88位中外院士，共同探討ai倫理治理、大模型、數據、算力、具身智能等十大熱點議題。超過1000位全球領軍人物圍繞如何構建開放、公正、有效的全球ai治理機制展開深入對話，旨在防範潛在風險，把握ai帶來的無限機遇，助力各國經濟社會的數字化轉型。

作為ai領域一年一度的頂尖盛事，waic 2024在規模上創下歷史新高。一系列尖端科技成果集中首次亮相，聚焦大模型、算力、機器人、自動駕駛等前沿領域。大會期間，人形機器人、虛實融合、自動駕駛、無人機、腦機介面等前沿技術應用體驗區成為亮點，為參會者呈現了一場視覺與智能的雙重盛宴。

在全球治理圖靈圓桌環節，姚期智、羅傑·瑞迪、曼紐爾·布盧姆等三點陣圖靈獎得主，圍繞人工智慧治理協同創新展開了巔峰論道。

姚期智則認為，ai風險主要來自三方面：一是隨著ai能力出現，傳統的數據和網路安全風險會被放大，ai會將管理數據安全的困難放大100倍；二是沒有意識到的社會風險，如ai非常強大，且有很多使用方式，短期內存在顛覆現有社會結構的可能性，比如ai可能帶來大規模失業；三是所謂生存或存在的風險，這一次顛覆性的力量可能比核生化更加危險。

所有這些風險都需要很多專家來解決，不僅是科學家，還需要政府、律師、經濟學家來參與，幾乎涉及每一個行業。

在姚期智看來，ai風險也與計算性相關，目前的算力能解決很多以前不知道如何解決的問題，但這也是讓人感到非常恐懼的地方。「一方面我們把ai控制好，畢竟這是我們設計出來的；另一方面，也不希望它被我們給破壞了，權衡非常困難。正如圖靈所說，這是無法預測的，預測不了機器有了足夠算力之後會做什麼。」他說道。

2015年，全世界193個國家共同簽署了sdgs（人類可持續發展目標），確立了17個目標及169個具體指標。

薛瀾談到，去年一次聯合國會議中透露，sdg執行情況不容樂觀，很多目標不但沒能實現，反而倒退了，所以大家對人工智慧寄予厚望。

近期的一項研究揭示，ai有望對169個sdg具體指標中的134個產生積極影響，涵蓋從經濟增長到社會福祉再到環境保護的廣泛領域。然而，這一技術同時也可能對其中35%的指標造成負面影響，人工智慧發展是把「雙刃劍」。

如何推動人工智慧健康發展，儘可能達到收益最大化，同時把風險降到最低？薛瀾指出，在過去數年的實踐中，中國已經建立了相對完整的體系，包括法律法規、演算法治理、數據管理以及風險控制的基本規則。2019年發布的《人工智慧治理準則》與《倫理準則》構成了底層架構，而針對具體應用場景的專項法律則進一步細化了治理措施，確保ai的健康發展與風險最小化。

人工智慧治理攸關全人類命運，是各國面臨的共同課題。薛瀾表示，一個國家面臨的風險就是全球風險，所以要非常重視國際範圍內的人工智慧安全問題，通過多種途徑建立國際交流，加強政府間的多邊對話機制，用科學的力量助力國際機制的完善，促進政府、企業共同推動人工智慧健康發展。

「去年5月份，數百名ai科學家共同簽署文件，表達了對ai風險的擔憂，呼籲防禦人工智慧風險應該與流行病、核戰爭等其他大規模風險一樣成為全球優先議題。根本原因在於，目前ai發展是失衡的。」周伯文說道。

他表示，目前ai模型安全性的提升還遠遠落後於性能，不均衡背後是兩者投入的巨大差異，「對比一下，從研究是否體系化、人才密集度、商業驅動力、算力的投入度等方面來看，安全方面的投入是遠遠落後於ai性能的。」

為此，周伯文倡導ai研發應遵循「ai-45°平衡律」原則，即在長期發展中，要大體上沿著45度安全與性能平衡發展，保持性能與安全的同步提升，允許短期波動，但避免長期偏離這一平衡線。

周伯文介紹了上海人工智慧實驗室正在探索的一條技術路徑，即「可信agi的因果之梯」，它分為三個階段：泛對齊、可干預與能反思。這一路徑旨在通過強技術驅動、全流程優化、多主體參與及敏捷治理，確保ai系統的安全可控，同時不犧牲其性能與創新能力。

目前，ai安全和性能技術發展主要停留在第一階段，部分在嘗試第二階段，但要真正實現ai的安全與性能平衡，必須完善第二階段並勇於攀登第三階段。沿著可信agi的「因果之梯」拾級而上，「我們相信可以構建真正可信agi，實現人工智慧的安全與卓越性能的完美平衡。」周伯文表示。

在談到ai對企業價值的影響時，蘇世民（stephen a. schwarzman），一些企業在ai融合方面做得很好，但也有些企業並不適應，黑石在投資時會對企業在這方面的潛在變現進行評估。

蘇世民稱，自己在剛入行時不擅長數學，也做不來模型，「所以我看到新的ai應用，比如說起草投資委員會的會議備忘錄等，都可以讓ai幫你做到，讓我感到很驚喜。」雖然ai目前進展非常順利，但始終希望大家把預期放低一點，並保持高度警惕，「不能像鴕鳥一樣，把頭埋在沙子里，不關注外面技術發展的風險」。

關於投資，蘇世民表示：「有一句話說道，投資界沒有勇敢的老人，意思是始終應該對風險保持警惕。當ai真正發展起來，可能會讓一些投資變得血本無歸。」

在談到傳統大學應該如何適應當今世界變化時，蘇世民表示：「相較於商界，大學在競爭中處於劣勢，雖然大學仍然擁有聰明的大腦，但現在的突破性技術進展都是由商界推動的，因為只有企業能負擔得起技術開發所需的算力，這是我觀察到的結構性變化。」

蓋思新表示，半導體行業花了60年實現5000億元銷售，之後僅用了8~9年就到達1萬億，幾乎所有增量都是由ai增長所驅動的。

ai帶來了巨大的發展空間，不過蓋思新呼籲全球應圍繞負責任地開發人工智慧展開合作，「人工智慧技術的創新必須與如何負責任地開發人工智慧的需求相平衡，而實現這種平衡的最佳方式就是全球協作。」他表示，全球協作能夠使全世界人民從人工智慧帶來的巨大進步中受益，同時確保這些創新能力得到負責任的實踐。

蓋思新透露，新思科技也在試圖將ai應用在自己的工作流里，目前已經建立了ai卓越中心，致力於內部員工ai素養提升，強化對ai倫理、風險的認知，並通過持續教育賦能客戶，推動ai技術在晶元設計中的深化應用。

柯瑞文表示，當前人工智慧產業發展日新月異，迎來了前所未有的機遇，同時也面臨著不少的問題和挑戰。作為電信運營商，中國電信把握人工智慧的發展方向，充分發揮自身的特點和優勢，積極服務和融入人工智慧的發展。

第一、人工智慧需要新型的數字信息基礎設施提供有力的支撐。新型的數字基礎設施總的要求就是「高速泛在、天地一體、雲網融合、智能敏捷、綠色低碳、安全可控」。基本特徵是充分發揮網路的基礎，發揮雲計算的核心作用，推動雲和網的融合，提供智能化的連接和算力的服務。

第二，人工智慧的發展既要重視大模型的技術研發，更要重視模型的應用。應用是促進技術成熟與產業創新的重要途徑，人工智慧要在應用過程中不斷迭代完善，促進規模化發展。中國電信首先從內部應用做起，如星辰網路大模型用於維護優化、業務交互流程，將故障處理效率提高30%以上。在內部應用的基礎上，中國電信全面開放場景，聯合產業夥伴推動大模型的深度應用，在工業、教育、醫療、政務等領域推出了36個行業應用，服務政企客戶7000多家。

第三，人工智慧發展需要共建開放的生態，共同推進治理。人工智慧發展涉及到晶元、雲網、模型、應用等產業鏈各個領域，將催生大量的融合創新的合作機會，需要產業各界立足自身的稟賦，在技術共創、數據共享、場景開放、人才培養、資本合作等方面攜手建立開放的生態，實現互利共贏。

李彥宏表示，去年國內的「百模大戰」造成資源浪費，但也讓中國有機會可以追趕世界上最先進的基礎模型。

「今天大家可以看到國內已經有多款閉源模型，聲稱已經追平或者是超越了gpt-4的水平，成為今年以來爭議比較大的一個話題。有些外行甚至混淆了模型開源和代碼開源這兩個概念。」李彥宏談到，模型開源只能拿到一堆參數，還要再做sft、安全對齊，即使是拿到對應源代碼，也不知道是用了什麼比例的數據去訓練這些參數，拿到這些東西，並不能讓你站在巨人的肩膀上迭代開發，最終無法做到「眾人拾柴火焰高」。

他直言，同樣參數規模下，開源模型的能力不如閉源，若要達到同等能力，開源模型通常需要更大規模的參數，進而增加推理成本與響應時間。

李彥宏承認，開源模型並不適用於大多數應用場景，在激烈的商業環境中，想要讓業務效率高於同行、成本低於同行，商業化的閉源模型是「最能打的」。

針對ai應用，李彥宏表示，ai時代「超級能幹」的應用比只看dau的「超級應用」更重要，「我們要避免掉入『超級應用陷阱』，覺得一定要出現一個10億dau的app才叫成功，這是移動互聯網時代的思維邏輯。」他認為，只要能對產業和應用場景產生大的增益，整體價值就已大於移動互聯網。

在他看來，大模型的重點還是「卷應用」，「沒有應用，光有基礎模型，不管是開源還是閉源都一文不值」。

楊傑在演講中談到了三點思考：第一，以ai為代表的新一代信息技術成為發展新質生產力的重要引擎；第二，深入推進ai成為培育新質生產力的重要路徑；第三，以ai+推動新質生產力發展成為信息通信業的時代重任。

楊傑認為，ai不會取代人類智能，但會重構很多行業、很多領域，擅長使用ai的人將會替代不會使用ai的人。「正像我們過去的十幾年間，互聯網時代，互聯網+時代，電腦並沒有取代人腦。而是更擅長使用計算機的人會脫穎而出。我覺得ai進入ai+時代也是如此。」楊傑說道。

在圓桌對話中，王堅認為，今天的人工智慧有別於過去的人工智慧，「人工智慧有一個非常長的過去，但有一個非常短的歷史。長到可以追溯到一百多年以前，短到gpt的出現。gpt的潛力，今天還是沒有被完整地探索。」他認為，ai接下來的十年還是非常激動人心的十年。

「如果出現新技術，一定會有新的大公司誕生，也一定會有大公司烈火重生，否則技術的顛覆性就要打個問號」，王堅表示，互聯網時代有草根創業的說法，但ai有很多依賴性，比如依賴數據。從這個角度看，ai時代對大公司更友好，但前提是公司要有創造力。

王堅還表示，面對ai，小企業和大企業的差別是，大企業一定會覺得ai是工具的革命，小企業一定會覺得是革命的工具，「我想如果大企業也要意識到這是革命的工具，這個變化就來了」。

排版／ 季嘉穎

圖片／ waic

來源／《it時報》公眾號vittimes