從擦邊球到開綠燈，生成式AI正在探索開放成人內容

在AI飛速發展的今天，一個令人不安的話題浮出水面 - AI是否應涉足生成色情內容?

OpenAI公司最近引爆了這枚重磅炸彈，稱他們正在探索"以負責任的方式"生成AI成人內容，為其開了一個絕不應有的芝麻小口。

OpenAI的理由是要賦予人們最大限度地控制權，只要內容不觸犯法律或侵犯他人權利。他們宣稱，在某些創作性場景中，包含性或裸露內容是不可或缺的，然而，這種立場充滿荊棘，走在一條危險的鋼絲索上。

首先，生成模型訓練所使用的海量公開網絡數據，其中不乏未經授權的成人作品。這意味着，如果AI生成的色情內容投射到主流市場，將直接蠶食那些創作者的生計，成為他們苦心經營事業的絆腳石。

此外，當下的內容審查和監管系統存在着明顯缺陷，用戶可以輕而易舉地找到繞過這些機制的漏洞，濫用AI生成令人髮指的內容。事實上，AI已經成為一種新型性虐待工具，在校園中施暴者可利用AI"剝去"同學照片中的衣物，對其實施"虛擬猥褻"。一項調查顯示，14%的16至64歲受訪者曾遭受過AI深度偽造圖像的侵害。

最令人憂心的是，現行法律難以跟上AI行業飛快的發展步伐，即便未來出台新法規，司法系統也可能難以徹底根除這一領域的犯罪活動。

縱觀全局，OpenAI的做法勢必掀起軒然大波。他們可能最終不得不重新考慮自己的立場，因為無論如何，在AI生成色情內容這個充滿爭議和高風險的領域，任何企業都難以把握分寸，防患於未然。我們拭目以待，這齣戲究竟將如何上演。