把ai當「超級搜索引擎」原來很危險？圖｜豆包ai
作者／ it時報 賈天榮
編輯／ 王昕 孫妍
近日，國內首次針對ai大模型的實網眾測結果正式公布，一場大型「安全體檢」透露出不容忽視的信號：本次活動累計發現安全漏洞281個，其中大模型特有漏洞高達177個，佔比超過六成，這組數據表明，ai正面臨著超出傳統安全範疇的新型威脅。
如今，很多人習慣把大模型當作「超級搜索引擎」，事無巨細地向ai提問。但這種毫無防備的信任，很可能正悄悄推開隱私泄露的大門……
國產大模型漏洞較少
你是否習慣把ai當作「全能顧問」——問健康、問情感、問決策？openai聯合杜克大學、哈佛大學9月16日發布的最新研究顯示，截至今年7月，chatgpt每周活躍用戶超7億，發送信息量高達180億條。其中近一半屬於「詢問」類，是最主流的使用方式。
「這恰恰是隱私泄露的『重災區』。」安全專家、網路尖刀創始人曲子龍對《it時報》記者表示，很多用戶向ai諮詢疾病、情感、財務等高度私密的問題，卻沒有定期清理聊天記錄的習慣。一旦模型或伺服器被攻破，這些敏感數據極易泄露。
上述漏洞眾測活動還公布了五大典型漏洞風險：一是部分產品存在不當輸出類漏洞且危害嚴重；二是信息泄露類漏洞多發，存在較大安全隱患；三是提示注入類漏洞普遍，是大模型最常見的漏洞風險；四是部分大模型產品針對無限制消耗類攻擊的防護措施有待加強；五是傳統安全漏洞依然普遍存在，危害不容忽視。
曲子龍強調，大模型漏洞帶來的影響並不像傳統系統漏洞那樣直觀，更多是通過繞過提示詞，獲取超出法律或道德邊界的信息。例如早期曾出現過模型泄露內部配置文件的情況，這種漏洞直接觸及伺服器信息；而後續常見的風險則是用戶嘗試讓模型生成違法內容，比如破解碼等。
「提示注入的本質，是通過提示詞影響模型的內部數據或文件，這類攻擊風險普遍存在。」曲子龍補充道，至於傳統安全問題，他打了個比方：「比如攻擊者利用死循環，讓模型無限制消耗token。」
鑒於ai大模型產品普遍用戶量大、使用率高，若上述漏洞被惡意攻擊者利用，將對國內ai大模型產品生態造成較嚴重的影響。
國內主流大模型的安全防護水平怎麼樣？參與測試的主流大模型產品中，騰訊公司混元大模型、百度公司文心一言、阿里巴巴通義app、智譜清言等被發現的漏洞風險較少，體現了較高的安全防護水平。
曲子龍進一步分析，大模型安全問題的本質與互聯網發展早期類似。移動互聯網興起時，app數量激增，漏洞也隨之成倍出現，而目前能自主研發大模型的廠商數量有限，漏洞總量看似不多，但隨著用戶規模和應用範圍的擴大，攻擊面也會隨之迅速變大。
圖源：pexels
本地化部署不等於安全
2025年全國兩會期間，全國政協委員、奇安信董事長齊向東敲響警鐘：近九成本地部署deepseek的伺服器在「裸奔」，引爆了行業對ai安全危機的討論。
今年春節，deepseek出圈後不久就遭到了有組織的網路攻擊。這波「職業黑客」的攻擊規模之大、烈度之強，讓中國安全界「群起而攻之」，中國電信安全團隊也深度參與了deepseek的安全防護。今年3月，攻擊deepseek的同一夥組織將馬斯克旗下的社交媒體x攻擊到三次癱瘓。
大模型的安全問題究竟有哪些共性？
根據中國電信「廣目」測繪平台對全球大模型部署的實時感知顯示，國內部署最廣泛的模型是deepseek-r1，國外部署最多的開源大模型是llama 3，均面臨類似的安全風險，比如「越獄」攻擊、大模型推理框架存在安全漏洞等。
中國電信安全團隊曾對國內六款最熱門的基礎大模型做了完整掃描，結果發現，最高分只有77分，有的則低於60分。天翼安全科技有限公司總經理劉紫千表示，這說明國內的基礎大模型在安全方面還有很大提升空間。
值得關注的是，本地化部署並不等於安全，伺服器一旦被攻擊，私有伺服器上存儲的隱私信息和商業機密就有可能被竊取。
智能體成安全新挑戰
《it時報》記者注意到，本次漏洞眾測共對10家ai廠商的15款大模型及應用產品進行了測試。測試產品中既有基礎大模型產品，也有垂域大模型產品，還有智能體、模型開發平台等相關應用產品。
隨著大模型的發展，當下人工智慧正在從「chat向agent」躍遷，而智能體帶來的風險可能比大模型本身更複雜。
9月16日，在2025年國家網路安全宣傳周上，中國電信攜手公安部第三研究所、華為公司、《信息安全研究》雜誌社、螞蟻集團、清華大學、上海交通大學等機構多家合作夥伴,發布了業內首部《ai智能體安全治理》白皮書。
《白皮書》指出，與大語言模型相比，ai智能體不僅延續了模型與數據層面常見的安全風險，例如「越獄」攻擊、對抗樣本攻擊、提示注入、數據「投毒」等，還因其具備多模態感知、自主規劃與執行等特性，衍生出一系列獨特的系統性風險。這些風險往往與具體應用場景深度耦合，並可能在執行鏈條中被放大，帶來更加嚴重的安全隱患，主要體現在以下幾個方面：
感知出錯：智能體依靠各種感測器「看世界」，但如果有人故意干擾，它可能把假象當真，做出危險反應。
決策失誤：智能體能自己做決定，一旦推理出錯，錯誤會被放大，在自動駕駛、金融、醫療等領域可能造成嚴重事故。
記憶被污染：智能體會「記住」用戶交互，如果有人往裡面灌假消息，智能體就會反覆調用錯誤信息，例如篡改智能體記憶中的身份信息，可能導致後續任務出現越權操作或隱私泄露。
工具被濫用：智能體常接入各種插件和外部系統，如果缺乏安全控制，這些介面可能成為黑客攻擊的入口。
今年以來，國家市場監督管理總局在多模態大模型、智能體、具身智能等前沿方向，以及其他傳統行業應用方面，新發布了10項國標，立項了48項技術文件。儘管如此，隨著大數據、人工智慧、物聯網等快速發展，當前仍迫切需要通過標準化建設減少數字技術發展帶來的風險和不確定性。
ai時代已經到來，在盡情提問與探索之前，或許我們都該先問自己：「我的數據，真的安全嗎？」
排版／ 季嘉穎
圖片／ pexels deepseek 豆包ai
來源／《it時報》公眾號vittimes
e n d
