**划重点:**
1. 2023年分析揭示，绝大多数在线深度伪造视频为色情内容，其中数量较2019年增长550%。
2. 深度伪造色情内容占所有深度伪造视频的98%，受害者中99%为女性。
3. 韩国成为深度伪造色情内容的主要受害国，部分归因于流行音乐，尤其是女子流行乐队Blackpink。
站长之家(ChinaZ.com) 11月13日 消息:生成式人工智能技术的崛起带动了深度伪造内容的激增，特别是以数字方式改变或生成的色情内容。根据2023年的深度伪造状况报告，这一现象在网络上变得越来越普遍，深度伪造色情内容数量在短短一年内增加了惊人的550%。这项分析还揭示，深度伪造色情视频占据了网上发现的所有深度伪造视频的98%，而受害者中99%是女性。
图源备注：图片由AI生成，图片授权服务商Midjourney
homesecurityheroes.com的分析师通过研究95，820个深度伪造视频、85个专用在线频道以及100多个与深度伪造生态系统相关的网站，制作了这份详尽的报告。令人震惊的是，现在只需不到25分钟，且几乎不需要任何成本，就能使用受害者的单一清晰面部图像创建一分钟长的深度伪造色情视频。
报告强调，韩国是目前深度伪造色情内容受害最多的国家，其中的主要原因被归因于该国流行音乐的全球影响。特别是，Blackpink作为韩国最大的女子流行乐队，其成员中的三人位列最受攻击的前10名。研究分析主管Chris Nguyen指出，韩国流行偶像以其广泛的知名度和粉丝追随者而著称，这意味着涉及他们的深度伪造色情内容更有可能吸引更多受众。
除了韩国之外，美国、日本和英国也是深度伪造色情内容的高发国家。对于这一现象，研究者认为与韩国一样，这些国家的深度伪造色情内容激增可能与对流行文化和名人的高需求有关。此外，严格的色情法规可能反而助长了深度伪造色情内容的创作和传播，类似于“Streisand效应”，试图掩盖或删除信息反而引起更大的关注和兴趣。
在观察深度伪造色情内容的流行程度时，分析师发现前十名最受欢迎的色情网站中有七个托管了深度伪造内容。这些网站的总浏览量超过3.03亿次，表明这类内容的普及程度和受欢迎程度正在迅速增加。
研究者将深度伪造内容激增归因于两个主要原因:首先，生成对抗网络（GAN）等新型机器学习框架的出现为深度伪造内容的创作提供了技术手段;其次，基于GAN的工具的轻松获取意味着几乎任何人都可以快速、廉价地创建深度伪造内容。这些平台提供从简单的面部替换到更复杂的视频操作的各种功能，而在线社区的增长则促进了深度伪造创作的合作、知识共享和开源项目的发展。鉴于这一现象，研究者呼吁对这类内容的态度进行深入讨论，特别关注创作该内容的伦理考虑。
