長城網·冀雲客戶端特約評論員 西窗
央視報道截圖。
近日，央視曝光，有人公開兜售「AI生成色情擦邊視頻」的教程和「提示詞」，引發關注。
帖子標着「AI製作美女視頻」「AI擦邊賽道日入5位數」等標題，再配上露骨的畫面……這些教程就在網絡平台堂而皇之地宣揚如何讓用戶「從無到有」「手搓」「色情擦邊」視頻。
AI本身是價值中性的技術工具，可在利益驅使下，卻被人異化為「造黃」利器，還催生出一條分工明確、流水作業的產業鏈。由於AI技術的放大作用，其泛濫程度、危害後果，可能遠超傳統擦邊亂象。
在上游，賣家明碼標價，9.9元就能提供入門教程，200多元就能獲取「高階技巧」，不僅附贈「防和諧提示詞庫」，還偷偷傳授相關軟件使用、規避平台審核的歪招。「如何違法」被其包裝成了「如何賺錢」，頗有迷惑性。
中游環節，用戶只需上傳任意一張人臉照片，不管是明星網紅、普通路人，還是身邊熟人，輸入露骨提示詞，就能快速生成色情圖片、動態視頻，甚至實現「AI脫衣」「AI換臉」，尺度不斷突破底線。
更有不法團伙，推出所謂「定製服務」，眾籌製作特定人物的淫穢內容，批量產出、重複售賣，把他人的名譽當成牟取暴利的籌碼。
在下游，則有社交群、暗網、境外平台等渠道引流變現。要麼直接打包售賣擦邊視頻內容，要麼甚至被用於敲詐勒索、惡意詆毀，危害不容小覷。
對AI產業而言，少數人的違法行徑，讓技術背負上「污名」，正當的AI應用也可能被拖累，阻礙行業創新發展。
所幸，法律的利劍已經出鞘。4月10日發佈的《人工智能擬人化互動服務管理暫行辦法》第八條明確規定，提供擬人化互動服務，不得傳播淫穢、色情等內容，不得向未成年人生成可能影響其身心健康的內容。
這不是空洞的條文，而是劃定的明確紅線，更是整治AI「造黃」亂象的有力依據。
事實上，已有違法者付出慘痛代價。國內首例AI服務提供者涉黃案中，兩名開發者因修改提示詞誘導AI「聊黃」，一審已被分別判處四年和一年六個月有期徒刑。湖北一男子用AI撰寫色情小說售賣，被判處有期徒刑十個月。
這些法規和案例都在警示：AI不是法外之地，利用AI從事違法犯罪，將受到法律嚴懲。
當然，整治AI「造黃」產業鏈面臨一些困境。例如，門檻低，一台手機就能成為黑產參與者，技術的平民化讓亂象快速擴散；隱蔽性強，提示詞不斷「進化」，賬號匿名化、傳播私密化，讓取證變得困難。更有不法分子利用境外工具、境外平台規避境內監管，進一步增加治理難度。
這也意味着，斬斷這條「毒鏈」，不能單靠某一方發力，必須系統化治理，形成政府、平台、企業、網民協同共治的合力。
AI是工具，善惡全在人心。技術的進步，本應讓社會更美好，而不是成為違法牟利工具、污染網絡的毒源。斬斷AI「造黃」產業鏈，勢在必行。如此，才能讓AI技術在法治和倫理的軌道上，真正發揮其應有價值。
-
-
-
-
-
-
-
-
-
-