**劃重點:**
1. 2023年分析揭示，絕大多數在線深度偽造視頻為色情內容，其中數量較2019年增長550%。
2. 深度偽造色情內容占所有深度偽造視頻的98%，受害者中99%為女性。
3. 韓國成為深度偽造色情內容的主要受害國，部分歸因於流行音樂，尤其是女子流行樂隊Blackpink。
站長之家(ChinaZ.com) 11月13日 消息:生成式人工智能技術的崛起帶動了深度偽造內容的激增，特別是以數字方式改變或生成的色情內容。根據2023年的深度偽造狀況報告，這一現象在網絡上變得越來越普遍，深度偽造色情內容數量在短短一年內增加了驚人的550%。這項分析還揭示，深度偽造色情視頻佔據了網上發現的所有深度偽造視頻的98%，而受害者中99%是女性。
圖源備註：圖片由AI生成，圖片授權服務商Midjourney
homesecurityheroes.com的分析師通過研究95，820個深度偽造視頻、85個專用在線頻道以及100多個與深度偽造生態系統相關的網站，製作了這份詳盡的報告。令人震驚的是，現在只需不到25分鐘，且幾乎不需要任何成本，就能使用受害者的單一清晰面部圖像創建一分鐘長的深度偽造色情視頻。
報告強調，韓國是目前深度偽造色情內容受害最多的國家，其中的主要原因被歸因於該國流行音樂的全球影響。特別是，Blackpink作為韓國最大的女子流行樂隊，其成員中的三人位列最受攻擊的前10名。研究分析主管Chris Nguyen指出，韓國流行偶像以其廣泛的知名度和粉絲追隨者而著稱，這意味着涉及他們的深度偽造色情內容更有可能吸引更多受眾。
除了韓國之外，美國、日本和英國也是深度偽造色情內容的高發國家。對於這一現象，研究者認為與韓國一樣，這些國家的深度偽造色情內容激增可能與對流行文化和名人的高需求有關。此外，嚴格的色情法規可能反而助長了深度偽造色情內容的創作和傳播，類似於「Streisand效應」，試圖掩蓋或刪除信息反而引起更大的關注和興趣。
在觀察深度偽造色情內容的流行程度時，分析師發現前十名最受歡迎的色情網站中有七個託管了深度偽造內容。這些網站的總瀏覽量超過3.03億次，表明這類內容的普及程度和受歡迎程度正在迅速增加。
研究者將深度偽造內容激增歸因於兩個主要原因:首先，生成對抗網絡（GAN）等新型機器學習框架的出現為深度偽造內容的創作提供了技術手段;其次，基於GAN的工具的輕鬆獲取意味着幾乎任何人都可以快速、廉價地創建深度偽造內容。這些平台提供從簡單的面部替換到更複雜的視頻操作的各種功能，而在線社區的增長則促進了深度偽造創作的合作、知識共享和開源項目的發展。鑒於這一現象，研究者呼籲對這類內容的態度進行深入討論，特別關注創作該內容的倫理考慮。
