獨家對話「水哥」王昱珩遭換臉帶貨，AI亂象如何解？

近年來，ai換臉技術屢屢被大眾熱議，成為技術「雙刃劍」的典型代表。

它極大降低了大眾的創作門檻，激髮網友對熱門歌曲、熱播影視劇「二創」的熱情，同時也在一定程度上提升文藝作品的熱度，助力其出圈。然而，ai換臉的濫用也已成為違法侵權行為的重災區。ai換臉擬聲後的「靳東」，鎖定中老年群體進行詐騙；以頭部藝人形象換臉的盜版短劇被打包出售；多位知名女演員的面容，被移花接木至色情視頻中；僅今年以來，就有全紅嬋、董宇輝、孫儷、古天樂、林峯等多名知名公眾人物方，發聲打假ai生成的帶貨視頻......近日，因「微觀辨水」一戰成名的「水哥」王昱珩也捲入一起與ai換臉相關的商業糾紛。

這麼神奇的「一鍵換臉」黑科技，應該如何得到更好地監管和使用？南都娛樂獨家對話維權當事人「水哥」王昱珩、法律專家和ai技術從業者，一起探討ai換臉侵權亂象的應對之道。 

因在腦力競技綜藝中展現出異於常人的觀察力與記憶力，「水哥」王昱珩以高智商、強腦力的形象給公眾留下深刻印象。然而，有商家正是看中這一點，擅自利用ai生成其帶貨的視頻。王昱珩告訴南都記者，直到身邊的朋友發來視頻詢問，他才知道自己「被帶貨」了。

帶貨視頻通過ai換臉、ai擬聲、剪裁拼接等方式，製造出王昱珩推薦產品的假象。

南都記者注意到，上述帶貨視頻涉及兒童書籍、兒童保健食品等類型的產品，正契合了王昱珩的形象特質以及家長關注兒童教育和健康的心態。帶貨視頻通過ai換臉、ai擬聲、剪裁拼接等方式，製造出王昱珩推薦產品的假象。有消費者信以為真，在評論區留言：「本來想買另外一個品牌的，但看到王昱珩推，就這了。」「王昱珩，我信任你，買了。」視頻還掛有售賣鏈接，其中一款兒童保健食品的銷量高達90多萬，另一款兒童書籍的銷量也超過10萬。

有消費者對換臉帶貨視頻信以為真。

在發現被侵權後，王昱珩及團隊通過法律途徑維權，目前侵權視頻已基本下架，並由侵權方對其作出賠償。王昱珩向南都記者坦言，此次維權帶給他的觸動頗大，作為當事人，他體會到當前針對ai換臉侵權的亂象，仍存在違法成本低、維權成本特別高的情況。

據悉，通過正常渠道邀請知名公眾人物代言，代言費用可能達數十萬至數百萬。「若未經授權用ai給我換臉帶貨，即使被告，輸了也就賠個一兩萬，對商家來說非常划算。」此外，取證過程也頗為困難。「他今天下架視頻，等過兩天再上架，反正你不可能永遠盯著他，他就可以一直跟你玩躲貓貓的遊戲。」

王昱珩回憶，當團隊找到侵權方交涉時，對方的態度並不擔心被告，反而提出，既然已經「生米煮成熟飯」，不如雙方轉為正式簽約，這讓他感到憤怒又無奈。

在王昱珩看來，ai技術濫用而造成的侵權亂象，不僅助長了不法分子不勞而獲的風氣，更傷害著人與人之間的信任，他呼籲相關法律法規的進一步完善以及網路平台的有效作為。

北京市煒衡（廣州）律師事務所文創煋團隊張律師告訴南都記者，團隊近兩年處理的案件中，涉及公眾人物的ai侵權現象尤為突出，例如通過ai換臉技術為商品帶貨、擅自更換熱播電視劇角色的肖像、生成以假亂真的藝人聲音等，這些行為涉嫌侵犯他人的肖像權、名譽權、著作權等。 

為什麼ai換臉技術成為違法侵權的重災區？目前對此項技術的規範使用存在哪些難點或挑戰？

從技術層面來看，一方面，ai換臉技術迭代迅速，深度偽造的精細程度不斷提升。人工智慧行業創業者陳啟熙向南都記者指出，ai換臉技術迭代的整體趨勢必定將越來越像真人，普通用戶將越來越難以僅憑肉眼辨認真假。

中國科學技術大學博士劉泓谷所在的智能認知安全實驗室（aics_lab）研究深度偽造技術檢測多年，曾參與由facebook（更名meta）發起的全球最具影響力的深度偽造檢測挑戰賽dfdc，獲全球第二。劉泓谷告訴南都記者，有研究表明，人類識別高質量深度偽造視頻的準確率僅約為20%，「也就是給你5段視頻，你只能區分出1段。」

另一方面，提供ai換臉技術的工具繁多、成本低廉，普通用戶使用該項技術的門檻變得越來越低，也給不法分子提供了便利性。「不需要太多知識，只要上傳人臉圖像或者視頻，它就能夠給你合成出一段。」劉泓谷說。

與此同時，現有技術缺乏對ai換臉的有效檢測及遏制。人工智慧行業創業者陳啟熙和劉泓谷都表示，雖然自動識別ai合成視頻是當前的一大研究方向，但目前更多的是事後的檢測和溯源；要做到事前就準確檢測及攔截，仍存在較大的技術難度。「當前ai項目熱衷於將自己的技術開源，意味著不法分子有可能將此微調成自己的技術，而檢測技術很難追上自由生長的開源技術衍生迭代的發展速度。」陳啟熙說。劉泓谷則以比喻總結道，「這就相當於是一個攻防的過程。作為攻擊方，我只要越做越好就可以了；而作為檢測、識別的防守方，得在弄明白這項技術的基礎上再去應對，所以發展速度一定是相對落後的。」

從法律層面來看，則仍存在多方面的局限性乃至空白點。

首先，比起ai換臉技術迅猛發展的速度，現行法律法規相對滯後。華南師範大學法學院教授、廣東省人工智慧法律應用重點實驗室主任、華南師範大學人工智慧法律應用研究中心主任王燕玲向南都記者表示，《中華人民共和國民法典》雖然對肖像權、名譽權等進行了較為詳細的規定，但並未專門針對ai換臉等新技術的應用進行規範。例如，《民法典》明確規定，任何組織或者個人不得以醜化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。然而，ai換臉技術的廣泛應用使得這一條款在具體適用時面臨困難，尤其在認定「偽造」和「利用信息技術手段」時存在模糊地帶。此外，侵權認定標準亦不明確。ai換臉涉及深度學習、圖像處理等多種技術手段，這些技術手段的使用往往難以直接歸類為傳統意義上的「偽造」或「醜化」。

北京市煒衡（廣州）律師事務所文創煋團隊張律師亦指出，目前缺乏針對ai技術的專屬立法。「當前法律框架主要基於傳統肖像權、個人信息權和著作權等概念，未針對ai換臉等生成式技術的特點制定專門規範，明確其使用規範、責任劃分及處罰標準。」

其次，舉證難度大、賠償缺乏統一標準，導致違法成本缺乏足夠的震懾力。王燕玲和張律師均表示，公眾人物要證明ai換臉侵權行為對其造成的實際損害，在實踐中存在較大難度。「例如，如何證明某一ai換臉視頻的傳播對公眾人物的商業價值或社會聲譽造成了負面影響？相關證據往往難以收集和固定。」王燕玲說。

王燕玲進一步指出，原告的知名度、使用肖像的數量、時間、用途等因素，在不同案件中的權重和具體計算方法存在差異，導致賠償標準不統一。張律師對此也感同身受，他告訴南都記者，在公眾人物的實際損失或侵權方違法所得無法確定的情況下，法院通常會採用酌定賠償，但金額標準存在較大差異，缺乏相對統一的標準。「雖然《民法典》和《著作權法》均有作出懲罰性賠償的相關規定，但獲賠的案件不多，導致缺乏足夠的震懾力，很多侵權方的違法成本可能遠低於侵權行為可能為其帶來的商業利益。」他進一步指出，由於ai換臉涉及的技術分析成本高、耗時長，追蹤侵權內容在多平台的傳播鏈條和責任主體也需耗費大量的取證和分析工作，導致維權成本往往遠高於侵權方的違法成本。

此外，王燕玲還指出了平台責任界定不清、缺乏多部門協調和監管機制、國際合作不足等現存問題。張律師亦認為，平台責任不清，對ai生成內容的主動審查義務有待明確。 

ai換臉擬聲技術帶來如此多的弊病，是否意味著它沒有用武之地？

當然不是。以影視行業舉例，主演保羅·沃克因車禍去世後，電影《速度與激情7》就通過讓其兄弟擔任替身和換臉技術完成了保羅在片中的剩餘戲份，讓他在銀幕上「數字復活」。在塌房事件層出不窮的內娛，為了不讓主演個人行為影響到項目的播出，「換臉」技術也成為不少片方減少損失的一種選擇。

作為雙刃劍的技術有它能被合理利用的空間，正確施展它效用的同時，亂象也應該得到遏制。如何來減少利用換臉技術侵權的的行為？受訪者不約而同地表示，需要多方共同建立一個健全完善的監管體系。「如果（監管）跟不上的話，那麼你的技術就只會被壞人利用，因為好人沒有辦法去維權。」王昱珩說。

最為首要的是相關法律法規的及時補足，這是各方在處理該類問題時有法可依的前提條件。面對日新月異的技術發展，配套的法律法規也應及時跟上，才能減少不法分子鑽空子的行為。王燕玲建議，出台專門針對ai換臉等新技術應用的法律法規。

張律師也表示，賠償機制有進一步完善的空間。「例如，解決酌定賠償金額偏低、細化懲罰性賠償的適用條件、精神損害賠償標準不明確等問題，從而通過提高違法成本來增加震懾力。」

另一方面，法律法規如果能明確技術開發方和平台的責任，也能督促其更主動地做出改進措施。「我們都認為應該制定一些相關的法律法規，來規範ai技術的開發和應用。」劉泓谷說，技術開發者也需要確保技術被負責任地使用。

「要激勵平台去做（監管）這個事情，肯定是國家要從法律的層面去支持平台。」陳啟熙說，「比如政策可以有一定補貼，還有萬一出現了違法行為，平台要受什麼樣的處罰。從這個角度來說去倒逼平台做出一些完善。」

具體而言，技術開發方和平台如何來落實自己的監管責任？從節點來考慮，事先預防和事後追責缺一不可。

在網路平台，一種較為常見的提醒方式是在用戶上傳的內容上打上「該內容疑似由aigc生成」的標語，這對用戶來說能夠起到一定的幫助辨別作用，但張律師也表示，標語僅起到提示作用，無法替代刪除或屏蔽等實質性措施，也因此標語本身不具備直接免責的效力。

陳啟熙建議，平台甚至可以將ai換臉檢測機制內置在系統中，讓用戶無法發布此類視頻。這與劉泓谷團隊開發的深度偽造檢測技術有共通之處，據介紹，該團隊已經與榮耀達成合作，實現ai反詐功能。「你去打微信視頻的時候，如果對方用了換臉，手機可能會做一些提醒，當然不可能完全準確，但能提醒一些。」

對於ai換臉技術開發方，劉泓谷還提供了另一種從源頭遏制的技術思路。「甚至可以在非法場景失效，比如你用這個工具去生成敏感人物或者敏感內容，讓你直接生成不出來。」這在技術層面也有一定的可能性，「它更容易從源頭來處理，而不是說等傳播出來之後你再去檢測，因為確實帶來的這種危害已經都發生了。」

當侵權行為發生後，取證和溯源則成為追責的重要環節。張律師表示，平台可以利用區塊鏈技術為用戶上傳內容生成不可篡改的存證記錄，便於權利人取證和平台追責。

陳啟熙和劉泓谷都向南都記者提及，技術開發方可在生成的內容中打上「數字水印」，不影響內容的觀看，但可以用來輔助檢測，也能對侵權內容的製作方進行溯源。劉泓谷還補充，技術開發者還可以加強自身的溯源能力。「如果一旦有人用這個工具製造的視頻去做了不法行為，他們能夠幫助查到是誰來製作的內容。」

此外，加大對違規用戶的懲罰力度也能夠有效震懾不法行為。無論是技術開發方還是網路平台，對此類侵權內容的製作者和使用者都可以採取封禁等措施，來提高他們的違法成本。 

在採訪中，受訪者們也強調了公眾宣教的重要性。在ai換臉等偽造技術侵權的亂象之中，大眾可能是受害者，也可能是侵權行為有意的施行者或無意的助推者。那麼，作為普通人，該如何應對這類技術革新伴隨而來的諸多問題，遵守法律底線也維護自身的權益？

張律師表示，需要加強普法宣傳來提高公眾的法律意識。「例如，在平台內顯著位置提示ai換臉的法律風險，提醒用戶不得擅自使用他人肖像。」另外，對ai生成內容採用更明確的標識（如「經授權的ai生成內容」或「未經授權，存在法律風險」），也能保護消費者知情權。

同時，我們也需要不斷提升自己辨別能力。「從技術上來講，還是有一些我們可以用到的技巧。」劉泓谷告訴南都記者，目前大部分的生成方式都是通過圖片來偽造人臉，仔細觀察還是能發現一些不自然的細節。「一個正常的視頻是具有視頻固有的一些性質的。舉個例子，它的生物特徵會很流暢。換臉的一張圖可能你看不出來，但視頻的話你去觀察人的生物特性，可能還是會有一些生成的跡象。」

他還呼籲，當遇到真假難辨的信息時，先暫停傳播，去尋找可靠的來源。「現在這種互聯網的發達程度，你其實很容易去找到一些信息的來源。」

面對互聯網真假摻雜的信息，陳啟熙給出的建議也有些類似：質疑一切。「聽上去像是沒有辦法的辦法，但可能抱有質疑一切的態度，就不會自己先入為主地去做謠言的傳播者，我覺得這個很重要。如果肉眼判斷內容越來越難，那也可以從渠道上去判斷。」陳啟熙以ai換臉帶貨舉例，「我們也可以去看明星本人或者是工作室這樣的授權賬號（是不是發布過相關內容），如果有，那我們就可以選擇去相信。」

此外，對於維護自身權益，劉泓谷還特別提醒大眾多注意保護自己的隱私。「如果需要偽造得特別好的話，通常是需要很多特定的人臉數據，我們普通人在公開社交平台不要過多發自己的清晰人臉照片。」劉泓谷說，「如果你只有很少的這種數據，偽造可能相對難度就會大一點，成本也會高很多。這方面可能是我們普通人就是能夠非常容易做到的一個事情。」

采寫：南都記者 余曉宇 鍾欣