輸入一段你想要的問題，生成式人工智慧就可以根據你的需求從海量的數據中檢索分析生成你想要的文字、圖像甚至視頻，在方便快捷的同時，其潛在的個人信息泄露風險也引發擔憂。
如何在生成式人工智慧時代築牢個人信息安全防線？在這兩天舉行的2025年中國網路文明大會各分論壇上，與會嘉賓圍繞這一焦點議題展開深入探討。
中國科學技術大學網路空間安全學院執行院長 俞能海：生成式人工智慧技術，說到底它是基於數據的。現在的問題是我們的數據本身，現在各種大模型它都是要有數據、語料進來，這些語料從個人信息保護角度，哪些語料給、哪些語料不給，源頭數據怎麼管控，尤其在個人信息保護中間起的作用非常大。
專家提示，在人工智慧收集海量數據進行訓練的過程中，普通用戶有時難以理解數據收集的合規邊界，以及系統配置策略，盲目向生成式人工智慧平台輸入敏感隱私信息，一旦敏感數據被用於所謂「改善服務」「優化模型」，甚至用於訓練，其上傳存儲、後續使用場景、二次傳播都可能存在隱私數據泄露的風險。
國家信息技術安全研究中心技術研究部部長 楊韜：大家在和生成式人工智慧交互的時候，往往會一問一答，在這種問答的過程中盡量避免輸入個人信息，甚至敏感個人信息以及相關工作秘密信息，這個是需要大家注意的。
與此同時，基於強大的數據搜集和邏輯能力，人工智慧可以綜合公開數據、個人數據，結合行為分析挖掘出更深層的數據。
中國科學技術大學網路空間安全學院執行院長 俞能海：信息化給我們帶來非常好的一面，但確確實實也給我們留下了新的問題。你只要用了系統，一定會留痕，自己很多的信息，可能是敏感信息，你自己認為已經把它去掉了，但是通過整合、信息關聯，可能在輸出的點，它會就被泄露出來。
針對深度偽造技術 發展主動防禦技術
如何在保護數據安全和推動人工智慧發展中尋找新的平衡點，實現更廣泛的公共利益？與會嘉賓認為，需要從技術管控和相關法律法規完善落實中，進一步築牢人工智慧時代的數據安全防線。
在2025年中國網路文明大會個人信息保護分論壇上，來自中國科技大學的研發團隊介紹了針對當前人工智慧深度偽造的主動防禦技術，如通過對待保護的人臉圖片添加特定的擾動雜訊，讓篡改偽造圖片從而生成虛假圖片或視頻的模型失效。
中國科學技術大學網路空間安全學院執行院長 俞能海：我現在有一種手段，我讓人看沒有問題，但加上一個不可見的因子，可以理解為「雜訊」，到這個圖像里去，人看不出來，但是機器可以看出來。如果說把這樣的一些照片作為源頭進去，別人拿去做實驗，想合成一個新的數據，新的一個為他所用的影像，那就不可能實現，或者你實現了我就知道你是假的。
數據安全和隱私保護技術迭代更新也進一步促進個人信息保護相關制度法規的落地見效，與會嘉賓表示，目前我國已出台《個人信息保護合規審計管理辦法》《網路數據安全管理條例》《生成式人工智慧服務管理暫行辦法》等重要法律法規保障數據安全，並著重壓實了信息處理相關企業承擔保障數據安全的社會責任，如強調相關企業收集個人信息需遵循「最小必要」「告知同意」「合法正當」等原則。
國家信息技術安全研究中心技術研究部部長 楊韜：我舉個例子，個人信息處理者需要去仔細研判，比如說我某些欄位不採集，我的這項業務是否就真的進行不下去了，同時對於已經採集或者是準備採集的一些信息，應該是需要去考慮有沒有替代的方案，既能夠完成業務要求，也能夠充分減輕降低或者規避可能存在的違法違規收集使用個人信息的安全風險。
北京師範大學法學院博士生導師 吳沈括：在面對新技術新應用的演進過程當中，特別是面對人工智慧等一系列新的技術樣態和技術應用的時候，我們國家的規則的演進應當說速度其實非常快的。涉及到人工智慧語境下的個人信息處理的透明，又比如說關於各項業務的可溯源可審計的問題，我們還需要進一步地去迭代，去更新法律法規，使得規則要求，價值的保障和實際的技術應用之間能夠保持一個同步的進展。
還原受害人生活軌跡 警惕「私人定製」騙局
個人信息一旦被不法分子獲取，可能引發一系列嚴重後果，針對個人信息泄露而進行的精準電信網路詐騙是如何實現的，我們在日常生活中應該如何防範此類詐騙？
針對目前高發的電信網路詐騙案件，與會專家、民警表示，許多此類騙局之所以能夠得逞，往往是基於受害人個人信息的泄露。詐騙分子通過這些個人信息還原受害人生活軌跡，精準完成騙局的「私人定製」。
合肥市公安局刑警支隊五大隊副大隊長 楊礎：比如馬上快到暑假了，有很多學生朋友會出去玩，旅行的信息一旦被騙子掌握，他很有可能就給你發送機票退款的，或者說機票有延誤或者取消了，需要你怎麼操作。這種很明顯就是掌握到了你的個人信息，尤其是訂票信息旅程的信息，所以對你實施精準詐騙。
反詐民警提示，在社交軟體上進行信息和圖片視頻發布時，需要盡量避免暴露個人關聯信息。
合肥市公安局刑警支隊五大隊副大隊長 楊礎：現在圖片所包含的信息可能會比較多，有可能曬自己的孩子，孩子的校服暴露了孩子在哪裡讀書，暴露了所生活的城市，比如發家窗戶外的一個美景，而這張美景圖很有可能暴露了所在城市的具體區域，哪個小區等等。因為這些信息都很有可能會被壞人拿去利用，他能夠因此去定製針對你的個人騙局的時候，就很容易防不勝防了。
除此以外，深度偽造技術藉助人工智慧，能對人臉和聲音信息進行高度逼真的偽造，被不法分子用於詐騙時，往往具有極強的迷惑性。
中國科學技術大學網路空間安全學院執行院長 俞能海：我們現在家人看到了我的影像，這個影像是真是假不一定，可能是處理過了。尤其是像現在很多老百姓，我建議只要談到錢，請各位一定要重新複核，從另外的渠道複核，而不要簡單地相信他。
（總台央視記者 李可婧 吳經偉 劉軍 邵鑫揚 寧可珂）
