今年兩會期間，「龍蝦」熱席捲全國，以openclaw為代表的智能體安全問題，成為公眾關注的焦點。
全國人大代表、中海油海南分公司深海工程研究中心首席工程師雷亞飛是一位資深的智能體使用者，對此深有體會。巧合的是，今年兩會他帶來的建議正巧是關注智能體安全問題，無意間踩中了當下的熱點。
他告訴南方周末記者，人工智能正在從「輔助決策」走向「自主操控」，智能體的安全問題已經刻不容緩。對此，南方周末記者就智能體安全問題專訪了雷亞飛。
全國人大代表、中海油海南分公司深海工程研究中心首席工程師雷亞飛。受訪者供圖
南方周末：你如何看待當下的智能體熱潮？行業目前發展有哪些特點？
雷亞飛：2025年以來，以ai編程助手、ai辦公助手、ai手機助手為代表的智能體快速興起，ai不再局限於回答問題，而是直接在用戶的電腦和手機上執行操作，從讀寫文件、發送消息、控制瀏覽器到跨應用調度。
國內外主要ai廠商已發佈數十款此類產品，覆蓋編程、辦公、通信、金融等場景，用戶規模快速擴張。
與此同時，智能體的操控深度正在從應用層下沉到操作系統層。電腦端，部分智能體已默認獲得與用戶等同的完整系統權限，可執行任意命令、讀寫全部文件；手機端，部分產品通過與設備廠商合作獲取系統級權限，以截取屏幕畫面並模擬用戶操作的方式實現跨應用調度。
隨着大模型能力的持續提升和ai應用的普及，智能體的操控範圍和用戶規模仍在快速擴大，ai正在觸及用戶數字生活的底層基礎設施，亟須構築安全可靠的治理體系，為產業健康持續發展打好堅實基礎。
南方周末：為什麼當下安全問題已經刻不容緩？
雷亞飛：智能體正在從低權限向高權限加速演進，但安全建設卻遠未跟上。當前智能體產品的權限深度差異極大，從僅觀察屏幕到獲得操作系統級特殊權限，操控能力和風險等級截然不同，低權限產品的漏洞影響通常局限於某個應用，而高權限產品的一個漏洞就可能波及用戶整台設備的全部文件、應用和賬號。然而行業和監管尚未建立與權限深度相匹配的管理框架，具體表現在：
一是權限授予缺乏分級標準，多數產品採用一次性概括授權，用戶在缺乏充分告知的情況下即授予ai廣泛權限，不同權限層級的風險差距懸殊，欠缺差異化管理機制。
二是安全檢測與應急響應滯後，智能體迭代極快，可在數日內獲得海量用戶，但缺乏常態化安全檢測和應急預案，近期多起安全事件中漏洞在被廣泛利用後才被發現。
三是持續性數據採集對現有隱私保護機製造成衝擊，尤其是手機端智能體採用gui屏幕模擬路線的產品需不間斷截取屏幕畫面上傳雲端分析，實質上構成全面監控，傳統「知情同意」機制近乎失效。
四是未經授權的跨應用操控傷害產業生態，部分智能體繞過應用自身接口直接操控，開發者的用戶關係和數據資產面臨被架空風險，各方責任缺乏清晰界定，產業各方陷入對抗而非協作的局面。
南方周末：對於建立智能體的安全治理體系，你有什麼樣具體的建議？
雷亞飛：建議中央網信辦及工業和信息化部，按照智能體對終端設備的操控深度，系統構建分級安全治理體系：
（一）l1層級（沙盒受限）：加強安全機制審查。此層級ai具備操控能力但限定在特定應用或文件夾內，如ai編程助手在編輯器內工作、ai辦公助手在隔離環境中處理文檔，操控範圍可控。建議重點審查權限最小化設計、憑證存儲安全、插件市場審核機制，鼓勵沙盒隔離等安全設計，將此層級確立為行業推薦的默認安全基線。
（二）l2層級（用戶完整權限）：建立安全評估監測體系。此層級ai獲得與用戶等同的系統權限，可執行任意命令、讀寫全部文件，相當於全權代理用戶操作電腦，近期多起安全事件均發生在此層級。建議建立持續監測機制，對高風險產品及時發佈預警；執行支付、通信、賬號等敏感操作時，應當確保與此類服務的提供方已建立安全可靠的協作機制，保留完整操作日誌，ai操作可驗證可審計，建立安全屏障；對快速增長的開源智能體項目建立閾值觸發的主動安全審查機制。
（三）l3層級（系統級權限）：強化安全監管，防範權限濫用。此層級ai獲得操作系統特殊權限，可跨越應用隔離邊界注入操作，風險最高。建議將此層級作為監管重點，實施嚴格的安全監管：一是對採用gui屏幕模擬路線的產品持謹慎原則，嚴格履行最小必要原則，限定gui適用範圍，實施敏感信息過濾機制，賦予用戶查看數據清單和隨時撤回授權的權利；二是明確「雙重授權」原則，跨應用操控須同時獲得用戶授權和應用運營方授權，鼓勵通過協議路線實現安全可控的跨應用協同，推動標準化智能體互操作協議的制定；三是明確ai廠商、設備廠商、應用平台各自安全邊界，填補責任真空。
最後我想提示一下，當前人工智能發展仍處於初級階段，尚未脫離人的控制實現自我迭代，智能體的智慧也尚未超越人類。現階段出現的問題，更多像一個不聽話的孩子對成年人的挑戰。因此，以上對人工智能開發中智能體的安全防護建議，主要是針對初級發展階段而言的。
然而，隨着人工智能高速發展，其自我迭代能力和智慧水平必然實現對人類的超越。到那時，單純依靠法律約束和技術層面的控制性防禦，將難以有效應對。我們需要未雨綢繆，提前布局更深層次的應對之道：在人工智能的「源代碼」層面注入「善」的基因，使其在演進過程中逐步與中華民族「人性本善」的核心價值深度融合，確保最終形成向善的人工智能體。
這種「善」的注入，應當體現為：尊重生命、促進和諧、服務人類共同福祉。唯有如此，當人工智能超越人類智慧之時，才能確保其始終與人類的價值追求同向而行，成為推動文明進步的正向力量，而非威脅人類生存的異化存在。這是面向未來的根本之策，也是我們這一代人必須肩負的歷史責任。
南方周末記者 羅歡歡
責編 顧策
-
-
-
-
-
-
-
-
-
-