3月24日上午，
@央視新聞 發佈了一則
「涉黃AI換臉案」的新聞，
瞬間衝上熱搜。
「AI換臉」相信大家都不陌生。只需要一張照片，通過人工智能深度合成技術，任何人都能成為視頻中的主人公，甚至連表情和動作都能以假亂真。然而，這項新技術在令人感嘆「科技改變生活」的同時，卻讓一些人產生了不良想法。
通過AI換臉
違法牟利6萬餘元
2020年
浙江杭州的虞某接觸了「AI換臉」軟件
為吸引流量
他利用該軟件
製作大量淫穢視頻並傳播
其中被換臉的有不少都是女明星
據虞某供述
為了吸引更多的關注和流量
他在社交軟件上創建了
「瀏覽群」和「私人定製群」
「瀏覽群」主要用來傳播「AI換臉」的淫穢視頻
吸引、招攬觀看者
其中包括一些經過虞某換臉的視頻
當有人提出「定製換臉」的需求
虞某會將這些人引入所謂「私人定製群
虞某聲稱
「只要能看到臉的都能換」
有人甚至要定製暗戀女生的換臉視頻
而對於這些
未經同意就擅自侵犯他人敏感信息的違法行為
虞某也是來者不拒
據檢察機關調查
虞某根據「AI換臉」視頻的
長度、清晰度等難易條件
按照5分鐘300元、10分鐘500元等
標準來收取定製的費用
杭州市蕭山區人民檢察院檢察委員會專職委員章蕾：他通過VIP定製，就是客戶提要求「我今天想要把臉換成是誰的臉，你幫我定製一下，我支付相應的報酬」，通過這樣的方式牟利。
據蕭山檢察
截至案發
公安機關共在虞某某所組建的公開群內
查獲淫穢視頻1200餘部
圖片1600餘張
通過銷售換臉淫穢視頻以及
定製換臉淫穢視頻等違法行為
虞某先後收取口令紅包200餘次
總金額共計6萬餘元
除追究刑責
檢察機關還提起民事公益訴訟
檢察機關認為
作為「AI換臉」技術的使用者
虞某通過傳播
侵犯公民個人信息的方法和手段
使得更多「不特定主體」個人信息
被侵害的社會危險性進一步擴大
因此
杭州市蕭山區人民檢察院
在依法追究虞某刑事責任外
同時還提起民事公益訴訟
2023年7月
杭州互聯網法院對這起公益訴訟案進行審理
這也是我國首例關於「AI換臉」
侵犯公民個人信息公益訴訟案的審理判決
杭州互聯網法院經審理認為
虞某利用「AI換臉」技術
侵犯公民個人信息的違法事實確鑿
因此支持檢察機關作為公益訴訟起訴人
提出的全部訴訟請求
判令被告虞某：
- 刪除非法獲取的個人信息；
- 公開賠禮道歉、消除影響；
- 賠償損失共60000元，這些款項將專門用於個人信息保護、人臉深度合成技術不當應用的治理等公益事項。
最終
虞某犯製作、傳播淫穢物品牟利罪
被判有期徒刑七年三個月
並處罰金6萬元
注意！「AI換臉」用來搞笑
也存法律風險
法官認為， 「AI換臉」技術
即便只是用來搞笑或者製作惡搞照片
也有可能涉及侵犯肖像權、名譽權
造成嚴重後果的
還可能構成侮辱罪或者誹謗罪
而「AI換臉」技術的濫用
看似是對被侵害的個人的
人格權、肖像權、名譽權、隱私權的侵害
實際上更是對社會公序良俗的踐踏
是對穩定的社會環境
和清朗的網絡空間的挑戰
杭州互聯網法院常務副院長朱敏明：一項新技術的產生往往專門針對這項新技術的法律法規會有所滯後，但是總的來說我們現在國家整個的法治體系已經相當完善，每個人你哪些行為是可以做的，哪些行為是不可以做的，它的原則性規定都是已經比較健全了。我想正常人都是能夠判斷得出來的，你去運用這項新技術，你的目的是有益於整個人類，有利於就是人民生活水平的提升，福祉的提升，還是說為了個人謀取不當的利益。那麼我就想把握好這個界限，這些新技術都是能夠為我們美好生活服務的。
網友呼籲：儘快規範
看到審判結果
多數網友表示
支持嚴懲！堅決抵制！
有網友呼籲
規範AI使用
有網友提醒
在網上發佈照片要小心
注意保護好自己的隱私
發現不法行為第一時間報警
近年來，AI換臉技術的影響範圍越來越廣
與此同時
該技術被濫用的案例也頻頻發生
前不久，用AI「復活」去世明星的事件
引發了廣泛熱議
（點擊查看此前報道）
對此
央廣網發表了評論：
別讓不法行為毀了新技術
也毀了自己
AI換臉
這是新技術產生的新玩法
但不管怎麼玩
都必須在法律法規允許的範圍內
絕不能踩線越界
運用AI技術將他人的
臉部信息合成到色情視頻中
再將視頻售賣牟利
顯然已經侵犯了他人的肖像權
還涉嫌傳播淫穢物品罪
嚴重挑戰了社會公序良俗
侵權人的伏法有力說明了一個道理：
儘管現在還沒有專門針對AI技術的法律法規
但我國現有的法律體系已經比較完善
足以懲治運用新技術違法犯罪的行為
誰都必須對此心懷敬畏
管住濫用新技術的心和手
一項先進技術的產生並不容易
我們要依法用好
別讓不法行為毀了新技術
也毀了自己
對於此事
你怎麼看？
來源：廣州日報綜合自中國青年報、央視新聞、央廣網、潮新聞
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-