
文丨李海倫
編輯丨劉鵬
在博鰲亞洲論壇2026年年會上,ai的責任與治理問題成為討論焦點。
近期出圈的智能體「龍蝦」(openclaw)引發了廣泛討論。在開源框架快速擴散的背景下,大量「缺乏明確責任主體」的agent被接入郵件、文件系統、支付等真實環境,一旦出現錯誤決策或遭到惡意利用,直接影響的可能會是用戶的資金安全、數據隱私乃至企業的核心資產。
在博鰲分論壇上,中國工程院外籍院士張亞勤即以此為例指出,智能體已具備跨系統執行能力,但責任主體難以界定,當前技術與制度框架下仍缺乏可落地的解決路徑。
換句話說,隨著智能體加速進入大眾生活和場景應用,產業已經先行一步,ai治理亟需跟上。
在會後交流中,清華大學蘇世民書院院長、清華大學人工智慧國際治理研究院院長薛瀾進一步指出,目前,人工智慧正在從輔助性工具轉向具備執行能力的角色,並加速進入各類垂直場景。在這一過程中,ai治理的關鍵在於如何將ai納入現有行業法律體系之中,以應對智能體帶來的新問題。
薛瀾強調,不同領域的治理基礎並不相同,例如醫療、交通等行業本身已有成熟規則體系,關鍵在於如何與這些既有制度實現有效銜接。
清華大學薛瀾:agent驅動下的ai治理轉型 面臨「雙重挑戰」圍繞治理模式、規則體系、產業影響與全球化挑戰等多層考量,薛瀾進行了系統性的闡述與回應。以下為交流問答實錄:
問題:隨著「龍蝦」類agent產品出圈和爆發,ai正從工具走向具備行動能力的智能體。在這一背景下,這類基於開源智能體框架、缺乏明確主體的ai,應該如何實現有效治理?當前中國的治理模式能否跟上這種變化?
薛瀾:這個問題非常好,這確實是當前ai發展階段需要重點關注的。我想把兩個問題放在一起來看。
人工智慧發展到現在,出現了兩個重要變化:一是從「動口不動手」的輔助工具,轉變為能夠執行任務的「行動者」,這就涉及到授權與責任等一系列更複雜的問題;二是ai正加速進入垂直應用場景,在醫療、交通等多個領域落地。
在這樣的背景下,原有監管方式需要相應調整。一方面,監管需要儘可能跟上技術演進;另一方面,各個垂直領域本身已有成熟的法律體系,關鍵在於如何將ai納入其中,而不是另起一套規則。例如自動駕駛的發展,就必須與現有交通法規相銜接。我相信,圍繞這些問題,相關部門與產業界也正在持續探索更合適的治理路徑。
問題:在這種變化之下,ai治理未來更可能走向「統一規則」,還是「分領域協同」的模式?
薛瀾:人工智慧應用領域非常廣泛。在基本原則上應該是統一的,如「不能造成傷害」等這類基本原則具有普遍共識。但在不同應用領域,治理規則肯定會有差別,需要根據具體場景來制定。
問題:在技術快速演進的背景下,學界、產業界與監管機構之間應如何協同,才能讓治理真正有效?
薛瀾:我覺得首先要改變一個觀念,不應該把治理理解為對抗關係。
過去的監管更像「貓鼠關係」,監管是貓,企業是老鼠,雙方博弈。但在ai時代,這種關係很難持續,因為技術變化太快,很多問題是雙方都無法預見的。
所以雙方應該加強交流與合作。如果某個ai應用帶來風險,無論是企業還是政府都會受到影響,所以大家其實有共同利益。未來更重要的是加強溝通與合作,共同識別風險、減少負面影響,實現社會收益最大化。
問題:在社會層面,ai對勞動力結構的衝擊正在顯現。從治理角度看,是否需要對「以替代勞動力為導向」的應用進行引導或約束?
薛瀾:從經濟規律來看,降低成本本身就是技術進步的重要驅動力。
在很多知識密集型行業,人力成本是最大的成本項,因此技術自然會朝著節約勞動力的方向發展,這是市場機制決定的,也是正常現象。
更重要的問題其實是:被節約的這些勞動力該怎麼辦?從純經濟角度看,如果節約的勞動力太多沒有去處,勞動力成本自然會下降,節約勞動力的驅動力就會減弱,可能會有更多領域加以吸納,因此市場調節會發揮一定作用。另外如果轉型困難,就需要通過培訓等方式來緩衝。因此核心不在於限制技術,而在於做好結構調整。
問題:在ai加速出海的背景下,中國企業在全球治理與數據合規方面將面臨哪些新挑戰?如果各國強化數據合規與本地生態要求,會帶來哪些影響?
薛瀾:從優勢來看,開源生態是一個重要因素。包括中國在內的很多模型開源,對於那些沒有能力自研大模型的國家具有吸引力,這在推動ai技術普及方面具有積極意義。
但從商業角度看,開源模式的直接變現能力有限,更多需要依賴服務等方式實現收益。
同時,在當前地緣政治環境下,中國ai企業出海確實面臨較大挑戰,尤其是在數據合規方面,可能會遭遇額外限制甚至不公平對待,需要有充分準備。
不過,從另一角度看,很多發展中國家在數字基礎設施方面仍然相對薄弱,中國通過一帶一路等方式為這些國家提供相關幫助,相關人工智慧能力和技術也可以隨之輸出,這也是潛在的重要機會。
問題:隨著ai大模型能力的提升,版權等基礎制度衝突開始集中顯現。例如近期openai關停sora服務並終止與迪士尼合作,deepseek也因版權問題暫停海外上線。從治理角度看,這類問題應如何在現有法律框架下協調解決?
薛瀾:這是技術發展過程中必然會遇到的問題。
早期大家更多關注能力提升,沒有充分考慮版權問題。但隨著應用深入,這一問題已經無法迴避。
一方面,數字內容複製成本極低,如果能夠被有效利用,可以創造巨大價值;但另一方面,如果不保護創作者權益,會削弱持續創作的動力。
目前的矛盾在於,如果完全按傳統版權機制付費,成本可能非常高。我認為可能需要探索一些社會性的解決方案,比如建立某種類似「全球知識產權庫」的機制,通過公益性等方式統籌版權問題,模型公司在使用時再進行付費。