從擦邊球到開綠燈,生成式AI正在探索開放成人內容

在AI飛速發展的今天,一個令人不安的話題浮出水面 - AI是否應涉足生成色情內容?

OpenAI公司最近引爆了這枚重磅炸彈,稱他們正在探索"以負責任的方式"生成AI成人內容,為其開了一個絕不應有的芝麻小口。

OpenAI的理由是要賦予人們最大限度地控制權,只要內容不觸犯法律或侵犯他人權利。他們宣稱,在某些創作性場景中,包含性或裸露內容是不可或缺的,然而,這種立場充滿荊棘,走在一條危險的鋼絲索上。

首先,生成模型訓練所使用的海量公開網絡數據,其中不乏未經授權的成人作品。這意味着,如果AI生成的色情內容投射到主流市場,將直接蠶食那些創作者的生計,成為他們苦心經營事業的絆腳石。

此外,當下的內容審查和監管系統存在着明顯缺陷,用戶可以輕而易舉地找到繞過這些機制的漏洞,濫用AI生成令人髮指的內容。事實上,AI已經成為一種新型性虐待工具,在校園中施暴者可利用AI"剝去"同學照片中的衣物,對其實施"虛擬猥褻"。一項調查顯示,14%的16至64歲受訪者曾遭受過AI深度偽造圖像的侵害。

最令人憂心的是,現行法律難以跟上AI行業飛快的發展步伐,即便未來出台新法規,司法系統也可能難以徹底根除這一領域的犯罪活動。

縱觀全局,OpenAI的做法勢必掀起軒然大波。他們可能最終不得不重新考慮自己的立場,因為無論如何,在AI生成色情內容這個充滿爭議和高風險的領域,任何企業都難以把握分寸,防患於未然。我們拭目以待,這齣戲究竟將如何上演。