極目新聞評論員 屈旌
近日，知名模特葉凱薇發視頻公開控訴，稱其被人利用ai換臉製作淫穢視頻，並大量傳播，造成嚴重困擾，目前已經收集證據並報警，引發關注。記者從警方處獲悉，經鑒定，該視頻確系拼湊偽造，正在進一步調查中。（據3月14日大皖新聞）
相關新聞視頻截圖
這一事件再次凸顯了ai技術濫用問題的嚴峻性。ai換臉技術本是令人驚艷的新科技，旨在為影視製作、虛擬現實等領域提供無限可能性。然而，當新奇的技術被用於製作虛假的淫穢視頻並傳播時，人為之惡就被放大且失控。
這種惡俗「換臉」，實質就是新型的「造黃謠」，嚴重侵犯了女性的人格尊嚴，侵犯受害者肖像權，更對其名譽權、隱私權造成了難以估量的損害。尤其是像模特這樣的站在聚光燈下的職業，個人形象被污衊，名譽被潑髒水，精神世界遭受重擊，可能就會直接帶來經濟上的損失，生活上的困擾。
這種虛假視頻一旦傳播開來，往往會在短時間內引發廣泛關注，給受害者帶來巨大的心理壓力和社會壓力。即使事後澄清，受害者的名譽也難以完全恢復。葉凱薇的遭遇並非個例，近年來，類似事件屢見不鮮，許多女性因此陷入輿論旋渦，甚至被迫承受來自輿論的二次傷害。
用ai換臉技術製造淫穢視頻，具有明顯的違法性。根據民法典相關規定，任何組織或個人不得以醜化、污損等方式侵害他人的肖像權，也不得利用信息技術手段偽造他人形象進行侮辱、誹謗，此外，刑法也規定，製作、傳播淫穢物品屬於犯罪行為，情節嚴重的可被追究刑事責任。
葉凱薇在視頻中呼籲大家不要聽信謠言，也不要胡亂傳播，必須強調的是，即使這些視頻是通過ai技術生成的虛假內容，但只要其內容涉及淫穢信息，盲目傳播轉發同樣是違法行為。
當前，各種ai製造的謠言，在網路空間里如飛絮一般迷人眼目。就在3月14日，公安部網安局通報，近日傳得沸沸揚揚的「頂流明星在澳門輸了10億」，就是一名36歲的男子徐某強為博取流量、謀取非法利益用ai炮製的，他也因此被拘留處罰。可見，ai謠言比普通謠言的傳播更加隱蔽和迅速，更具有迷惑性，因此危害自然也就更大。
技術的進步本應為人類帶來福祉，但當技術被用於作惡時，其破壞力也是驚人的。ai換臉技術的低門檻和易操作性，讓普通人也能輕易製作出以假亂真的虛假視頻，為不法分子提供了可乘之機。這種技術濫用加劇了網路暴力現象，可能引發公眾對ai技術的恐慌和誤解，影響技術的健康發展。與此同時，目前整個社會對技術濫用的防範意識和法律監管相對滯後，導致黑手頻頻作亂，亂象屢禁不止。
斬斷用技術作惡的黑手，已經是刻不容緩，要儘快有所行動。對相關法律法規的完善應該儘早提上日程，要明確界定ai換臉等技術的使用邊界和法律責任，加大對違法行為的打擊和懲處力度，形成威懾，以儆效尤。司法機關也應積極應對新技術帶來的挑戰，提高辦案效率和準確性。
只有法律完善了，才能依法督促科技企業承擔起社會責任，從技術層面去遏制濫用現象，尤其是對於淫穢、暴力、低俗等不良信息，應該讓ai有識別和屏蔽的能力。
同時，也要加強對公眾的網路安全教育和倫理道德教育，提高公眾對ai技術的認知水平和風險防範意識，不要在不知不覺中，成為利用技術作惡的「幫凶」。
（來源：極目新聞）
更多精彩資訊請在應用市場下載「極目新聞」客戶端，未經授權請勿轉載，歡迎提供新聞線索，一經採納即付報酬。24小時報料熱線027-86777777。
