「你是溫崢嶸，那我是誰？」
演員溫崢嶸本人瀏覽短視頻時，意外發現「自己」正在直播。她在評論區提出質疑後，被拉黑並踢出直播間。而對方仍在用「她的臉」直播帶貨。
圖片來源於網路。
溫崢嶸近期遭遇的「冒牌直播」事件，是AI換臉技術濫用的典型寫照。
11月14日，中央網信辦官方賬號發文表示，有網路賬號利用AI技術仿冒公眾人物形象，在直播、短視頻等環節發布營銷信息，誤導網民，涉嫌虛假宣傳和網路侵權，嚴重破壞網路生態，造成不良影響。網信部門嚴厲處置一批違法違規網路賬號。同時，督促網站平台發布治理公告，舉一反三，開展集中清理整治，目前已累計清理相關違規信息8700餘條，處置仿冒公眾人物賬號1.1萬餘個。
圖片來源於網路。
《法治日報》記者近日調查發現，AI換臉與聲音克隆的教程及服務在網路平台流通。記者在各類社交平台以「AI換臉」「聲音克隆」等為關鍵詞搜索時，雖然平台會彈出官方提示，提醒用戶使用需「合法合規、注意辨別」「切勿輕信、謹防詐騙」，但相關內容仍在網路空間大量存在。
比如，有相當數量以「AI科普」為標籤的賬號在各平台公開分享換臉教程。這些視頻通常詳細列出可訪問的網站地址，逐步演示操作流程，並附有技術細節說明，如建議用戶「盡量保證替換素材與原素材的人物尺寸一致、畫面乾淨無遮擋」，以保證生成效果。
根據教程指引，記者登錄相關網站驗證發現，部分平台確實免費提供AI換臉或聲音製作服務，支付幾十元購買會員後，還能解鎖去水印、高清放大等進階功能。
除公開教程外，更為隱蔽的交易正通過網盤渠道進行。
記者觀察到，有一些打包出售的「完整教程」價格低至8元，且賣家聲稱「沒有市面主流軟體那麼多限制」。這類教程通常包括雲端工作流地址資料和詳細的操作說明，以及圖片去AI化、舞蹈動作模仿、人臉精修等擴展功能與相關的提示詞教學。
聲音克隆類的教程售價低至9.9元，並在宣傳中強調「支持任何形象和聲音」。記者詢問商家了解到，只要購買此安裝包，無需註冊會員即可免費破解使用對口型、克隆音色等功能。據商家描述，只需提供一段音頻文件，系統便可以在無身份認證的情況下進行克隆，單次支持30秒音頻，且不限次數。
為驗證此類教程的實際應用效果，記者購買了一份標價8元的換臉教程。該教程包含一段5分鐘的視頻教程和兩份文字材料，明確提供了平台訪問鏈接、新用戶福利信息和操作步驟，並特別註明「對敏感詞限制極少」「生成內容無水印」。
記者發現，該平台提供多種功能模板，內容涵蓋替換視頻人物、給人物指定部位更換衣物、對圖片中人物身體部位進行放大或動態處理等不同功能。每個模板均配備相應的提示詞教學和詳細操作步驟，用戶只需上傳參考圖片、視頻或待處理素材，等待一段時間即可生成內容。
記者實測使用一段時長5秒的視頻進行換裝操作，約3分鐘後成功生成視頻。畫面中，人物動作與神態還原度很高，被遮擋部位的服裝貼合效果也較為自然、精準。
記者注意到，該平台內容生成功能採用運行時長計費模式，每秒收費0.2虛擬幣。教程中附有專屬邀請碼，使用者可憑此免費領取1000虛擬幣。平台還設置了虛擬幣獎勵機制：每天登錄贈送100虛擬幣，邀請新用戶可獲500虛擬幣。
此外，在電商平台上，有商家為AI換臉服務披上偽裝售賣。
在某購物平台，記者直接搜索「AI換臉」，顯示無任何結果。但記者觀察到，有部分商家會在商品詳情頁用表情符號隱喻其能提供換臉「服務」；也有商家以「啥都能做」「不限視頻內容，懂的都懂」為宣傳語，暗示私聊客服了解商品詳情。
記者了解到，10秒換臉視頻報價從15元至300元不等。例如，有商家提出，20秒內視頻（包括僅生成音頻的）統一收費80元；部分商家還推出298元200分鐘生成時長、490元年卡等套餐，承諾「一對一教學指導」，宣傳語中不乏「讓朋友客戶難辨真偽」等誘導性表述。多數商家僅核查素材內容，對用途與來源未作甄別。
專家說法
近年來，利用知名人士形象進行AI換臉換聲的視頻層出不窮，一些有心人士將其用於直播帶貨甚至詐騙。這種行為可能觸犯哪些法律法規？
京都律師事務所律師常莎：
通過AI技術生成明星抑或普通民眾的人臉形象，前提是要採集、提取其面部特徵生物識別信息。這些信息屬於法定的敏感個人信息，侵權方未經授權使用，構成對公民個人信息權益的侵害；還可能侵犯他人肖像權、名譽權等。
若平台「明知」侵權方利用AI換臉實施詐騙、銷售假冒商品等犯罪，仍為其提供幫助，則可能構成幫助信息網路犯罪活動罪。
AI換臉直播事件中，侵權方的直播帶貨屬商業廣告行為，其通過AI偽造明星肖像與聲音，營造名人本人推薦的虛假表象，使消費者因信任明星作出購買決策，違反誠信原則，符合虛假廣告認定標準。同時，AI換臉行為還可能涉嫌不正當競爭。
此外，偽造特定名人形象、虛構事實以獲取非法收入，主觀上具有非法佔有目的，客觀上實施了欺騙行為，符合詐騙罪的基本構成要件，該行為涉嫌構成詐騙罪。
對於AI換臉換聲技術背後潛藏的法律風險，該如何有效治理？
中央財經大學法學院教授王葉剛：
應進一步明確刪除、篡改、偽造、隱匿標識行為的法律責任。現有相關規定只是規定行為人不得實施惡意刪除、篡改、隱匿標識的行為，但行為人實施相關行為需要承擔何種法律責任，相關規定亟待進一步明確。
對於通過技術手段能夠發現的AI換臉直播帶貨行為，平台應當盡到必要的審核義務，在發現相關行為後，可以考慮採取禁止或者限制直播、下架產品或者服務等措施。
實現多部門聯合執法，網信部門、市場監管部門等在行使本部門職權的基礎上，與其他部門進行溝通、配合，實現對違法AI換臉換聲等行為的全過程監管和治理。
京都律師事務所律師常莎：
在技術方面，防範與創新並重，支持研發反深度合成技術，提升鑒別能力，為監管部門和個人提供可靠的技術工具。
個人應提高對肖像權和隱私權的保護意識，謹慎發布包含個人清晰肖像、獨特聲線的影像資料，避免給不法分子可乘之機。同時，如果侵權行為發生，則應積極通過法律途徑維護自身合法權益，及時收集並保留相關證據侵權內容截圖、傳播記錄等，以便在後續維權過程中提供有力支持。
作者｜法治日報全媒體記者 趙麗 實習生 王藝霏
來源｜法治日報編輯｜江萍
-
-
-
-
-
-
-
-
-
-