“AI换脸” VS“假脸检测” ｜这一场“猫鼠游戏”从未停歇

2020年11月11日20:24:06 科技 1836

前段时间，#2元钱就能买上千张涉隐私人脸照#的话题冲上了热搜。央视报道称，在某些网络交易平台上，只花两元钱就能买到上千张人脸照片，5000多张人脸照片标价还不到10元，由此揭开了“AI 换脸“的黑产链条。

在今年警方破获的两起盗用公民个人信息案中，犯罪嫌疑人都通过“AI 换脸技术”非法获取公民照片进行一定预处理，再通过“照片活化”软件生成动态视频，成功骗过人脸核验机制，从而实施犯罪。

“AI 换脸“技术在风靡之初，就遭到了争议。一方面AI换脸在影视娱乐行业的应用，提升了效率和效果；另一方面，这一技术的滥用可能造成财产、声誉方面的损失。2020年初，Clearview AI 公司 30 亿张人脸数据被泄露，更是引发了诸多担忧。

面对一系列利用 AI 技术批量产出的虚假人脸图像与视频，用 AI 技术去自动检测是常见的方法。但是，道高一尺，魔高一丈，这场AI技术的猫鼠游戏，正不断升级。

来源：谷歌 AI 数据集

2019 年，Facebook、微软、亚马逊、麻省理工等知名企业、高校联合发起举办了一场针对人脸视频深度伪造检测挑战赛。截至2020 年 3 月 31 日结束，没有一组选手能够在黑盒数据集中，对从未见过的造假视频系统的检测精度达到 70% 以上。

而在10月刚结束的 GeekPwn 2020 虚假人脸 AI 识别大赛中，挑战进一步升级。比赛不仅考察选手利用 AI 技术识别虚假人脸的能力，更引入攻防的概念，研究 AI 换脸如何制造虚假人脸图像、视频并绕过虚假人脸检测，同时提升利用 AI 技术进行虚假人脸检测的准确率。

在现场，选手要经过两个阶段的考验。第一阶段，主办方提供真假混合的图片或视频，其中虚假的图片或视频利用各种流行算法生成，要求选手利用AI技术去识别真假。第二阶段，每组选手在现场制造若干视频、图像，发布之后由各组之间互相识别真假。

由于这些视频和图像极具迷惑性，肉眼很难辨出真假。所以经过提示后，发现视频里唱着歌的“周杰伦”实际上顶着自己的脸，主持人蒋昌建一度发出惊呼。作为名人，他在网络上有很多公开的照片且易于搜集，在用于换脸时，精准度更高，也更难识别。也有参赛选手表示，在图片或视频为正面的情况下，只需一张照片，就可以实现换脸。

经过激烈比拼，最终来自清华大学和Real AI的 TSAIL 团队凭借全场最高防守得分成功夺冠。这也意味着他们的检测虚假图像/视频的模型是五支决赛队伍中最准确的。

尽管场上正式比赛只有短短20分钟，但线下的预赛，从8月就已经开始。每组选手大量搜集图片、视频，有的团队甚至制作了上百万张图片的数据集去训练模型并测试。与此同时，每个团队中还要有人去负责生成虚假图片、视频，研究如何绕过检测机制。最终，生成的图片与视频在制作的检测系统中进行检测，利用这种方式去提高检测系统的防御能力。

CAAD - 虚假人脸 AI 识别大赛比赛视频

常见生成虚假图片或视频的技术包括 DeepFakes、Face2Face、FaceSwap、DeepFaceLab、styleGAN、CycleGAN 等 AI 技术或相关变体。主要涉及到人脸检测与识别、特征提取、确定变换矩阵、替换人脸等过程。而利用不同的数据和模型，还能在没有目标身份为基础的情况下，直接合成根本不存在的人脸或视频。

来源：https://www.thispersondoesnotexist.com/

虚假人脸检测则从人脸生成的原理和本质出发，基于机器学习到的样本、模型，结合人脸的图像特征等，发掘虚假人脸中伪造的细节。与 AI 换脸技术一样，虚假人脸检测的技术也在不断更新、改进。

今年10月，一篇刊登在 IEEE PAMI（《模式分析与机器智能汇刊》）上的论文声称，可以利用生物信号识别 Deepfake 视频，准确率高达97.29%，而且还能够发现制造 Deepfake 背后的生成模型。研究人员认为，当心脏跳动时会带动全身的血液流动，流动的血液会在人脸表面产生细微的变化，但假视频中显示的“人”不会表现出与真实视频中的人相似的心跳模式。因此，可以通过检测心跳在面部产生的细微差别来区分视频真假。