「AI換臉」 VS「假臉檢測」｜這一場「貓鼠遊戲」從未停歇

2020年11月11日20:24:06 科技 1836

前段時間，#2元錢就能買上千張涉隱私人臉照#的話題衝上了熱搜。央視報道稱，在某些網絡交易平台上，只花兩元錢就能買到上千張人臉照片，5000多張人臉照片標價還不到10元，由此揭開了「AI 換臉「的黑產鏈條。

在今年警方破獲的兩起盜用公民個人信息案中，犯罪嫌疑人都通過「AI 換臉技術」非法獲取公民照片進行一定預處理，再通過「照片活化」軟件生成動態視頻，成功騙過人臉核驗機制，從而實施犯罪。

「AI 換臉「技術在風靡之初，就遭到了爭議。一方面AI換臉在影視娛樂行業的應用，提升了效率和效果；另一方面，這一技術的濫用可能造成財產、聲譽方面的損失。2020年初，Clearview AI 公司 30 億張人臉數據被泄露，更是引發了諸多擔憂。

面對一系列利用 AI 技術批量產出的虛假人臉圖像與視頻，用 AI 技術去自動檢測是常見的方法。但是，道高一尺，魔高一丈，這場AI技術的貓鼠遊戲，正不斷升級。

來源：谷歌 AI 數據集

2019 年，Facebook、微軟、亞馬遜、麻省理工等知名企業、高校聯合發起舉辦了一場針對人臉視頻深度偽造檢測挑戰賽。截至2020 年 3 月 31 日結束，沒有一組選手能夠在黑盒數據集中，對從未見過的造假視頻系統的檢測精度達到 70% 以上。

而在10月剛結束的 GeekPwn 2020 虛假人臉 AI 識別大賽中，挑戰進一步升級。比賽不僅考察選手利用 AI 技術識別虛假人臉的能力，更引入攻防的概念，研究 AI 換臉如何製造虛假人臉圖像、視頻並繞過虛假人臉檢測，同時提升利用 AI 技術進行虛假人臉檢測的準確率。

在現場，選手要經過兩個階段的考驗。第一階段，主辦方提供真假混合的圖片或視頻，其中虛假的圖片或視頻利用各種流行算法生成，要求選手利用AI技術去識別真假。第二階段，每組選手在現場製造若干視頻、圖像，發佈之後由各組之間互相識別真假。

由於這些視頻和圖像極具迷惑性，肉眼很難辨出真假。所以經過提示後，發現視頻里唱着歌的「周杰倫」實際上頂着自己的臉，主持人蔣昌建一度發出驚呼。作為名人，他在網絡上有很多公開的照片且易於搜集，在用於換臉時，精準度更高，也更難識別。也有參賽選手表示，在圖片或視頻為正面的情況下，只需一張照片，就可以實現換臉。

經過激烈比拼，最終來自清華大學和Real AI的 TSAIL 團隊憑藉全場最高防守得分成功奪冠。這也意味着他們的檢測虛假圖像/視頻的模型是五支決賽隊伍中最準確的。

儘管場上正式比賽只有短短20分鐘，但線下的預賽，從8月就已經開始。每組選手大量搜集圖片、視頻，有的團隊甚至製作了上百萬張圖片的數據集去訓練模型並測試。與此同時，每個團隊中還要有人去負責生成虛假圖片、視頻，研究如何繞過檢測機制。最終，生成的圖片與視頻在製作的檢測系統中進行檢測，利用這種方式去提高檢測系統的防禦能力。

CAAD - 虛假人臉 AI 識別大賽比賽視頻

常見生成虛假圖片或視頻的技術包括 DeepFakes、Face2Face、FaceSwap、DeepFaceLab、styleGAN、CycleGAN 等 AI 技術或相關變體。主要涉及到人臉檢測與識別、特徵提取、確定變換矩陣、替換人臉等過程。而利用不同的數據和模型，還能在沒有目標身份為基礎的情況下，直接合成根本不存在的人臉或視頻。

來源：https://www.thispersondoesnotexist.com/

虛假人臉檢測則從人臉生成的原理和本質出發，基於機器學習到的樣本、模型，結合人臉的圖像特徵等，發掘虛假人臉中偽造的細節。與 AI 換臉技術一樣，虛假人臉檢測的技術也在不斷更新、改進。

今年10月，一篇刊登在 IEEE PAMI（《模式分析與機器智能彙刊》）上的論文聲稱，可以利用生物信號識別 Deepfake 視頻，準確率高達97.29%，而且還能夠發現製造 Deepfake 背後的生成模型。研究人員認為，當心臟跳動時會帶動全身的血液流動，流動的血液會在人臉表面產生細微的變化，但假視頻中顯示的「人」不會表現出與真實視頻中的人相似的心跳模式。因此，可以通過檢測心跳在面部產生的細微差別來區分視頻真假。