長城網·冀雲客戶端特約評論員 西窗
央視報道截圖。
近日，央視曝光，有人公開兜售“AI生成色情擦邊視頻”的教程和“提示詞”，引發關注。
帖子標着“AI製作美女視頻”“AI擦邊賽道日入5位數”等標題，再配上露骨的畫面……這些教程就在網絡平台堂而皇之地宣揚如何讓用戶“從無到有”“手搓”“色情擦邊”視頻。
AI本身是價值中性的技術工具，可在利益驅使下，卻被人異化為“造黃”利器，還催生出一條分工明確、流水作業的產業鏈。由於AI技術的放大作用，其泛濫程度、危害後果，可能遠超傳統擦邊亂象。
在上游，賣家明碼標價，9.9元就能提供入門教程，200多元就能獲取“高階技巧”，不僅附贈“防和諧提示詞庫”，還偷偷傳授相關軟件使用、規避平台審核的歪招。“如何違法”被其包裝成了“如何賺錢”，頗有迷惑性。
中游環節，用戶只需上傳任意一張人臉照片，不管是明星網紅、普通路人，還是身邊熟人，輸入露骨提示詞，就能快速生成色情圖片、動態視頻，甚至實現“AI脫衣”“AI換臉”，尺度不斷突破底線。
更有不法團伙，推出所謂“定製服務”，眾籌製作特定人物的淫穢內容，批量產出、重複售賣，把他人的名譽當成牟取暴利的籌碼。
在下游，則有社交群、暗網、境外平台等渠道引流變現。要麼直接打包售賣擦邊視頻內容，要麼甚至被用於敲詐勒索、惡意詆毀，危害不容小覷。
對AI產業而言，少數人的違法行徑，讓技術背負上“污名”，正當的AI應用也可能被拖累，阻礙行業創新發展。
所幸，法律的利劍已經出鞘。4月10日發布的《人工智能擬人化互動服務管理暫行辦法》第八條明確規定，提供擬人化互動服務，不得傳播淫穢、色情等內容，不得向未成年人生成可能影響其身心健康的內容。
這不是空洞的條文，而是劃定的明確紅線，更是整治AI“造黃”亂象的有力依據。
事實上，已有違法者付出慘痛代價。國內首例AI服務提供者涉黃案中，兩名開發者因修改提示詞誘導AI“聊黃”，一審已被分別判處四年和一年六個月有期徒刑。湖北一男子用AI撰寫色情小說售賣，被判處有期徒刑十個月。
這些法規和案例都在警示：AI不是法外之地，利用AI從事違法犯罪，將受到法律嚴懲。
當然，整治AI“造黃”產業鏈面臨一些困境。例如，門檻低，一台手機就能成為黑產參與者，技術的平民化讓亂象快速擴散；隱蔽性強，提示詞不斷“進化”，賬號匿名化、傳播私密化，讓取證變得困難。更有不法分子利用境外工具、境外平台規避境內監管，進一步增加治理難度。
這也意味着，斬斷這條“毒鏈”，不能單靠某一方發力，必須系統化治理，形成政府、平台、企業、網民協同共治的合力。
AI是工具，善惡全在人心。技術的進步，本應讓社會更美好，而不是成為違法牟利工具、污染網絡的毒源。斬斷AI“造黃”產業鏈，勢在必行。如此，才能讓AI技術在法治和倫理的軌道上，真正發揮其應有價值。
