劃重點:
- openai 探索允許用戶 「負責任」 地製作 ai 色情內容
- 與 ai 產品相關的 nsfw 政策重新審視
- 存在對開放 nsfw 政策風險的擔憂
站長之家(chinaz.com) 5月9日 消息:美國人工智慧巨頭 openai 周三在一份旨在徵求其產品規則反饋意見的文件中透露，他們正在探索 「負責任」 地允許用戶製作 ai 生成的色情內容。
根據 openai 目前的規則，性暗示內容甚至色情內容大多被禁止。但現在，openai 正在重新審視這一嚴格的禁令。
openai 在文件中表示:「我們正在探索是否可以在適當年齡段的環境下負責任地提供生成 nsfw 內容的能力。」 該公司表示，nsfw 內容包括不雅用語、極端血腥和色情。openai 模型負責人 joanne jang 在接受 npr 採訪時表示，公司希望就其 ai 產品色情文本和裸體圖像是否應該被永遠禁止展開討論。
與此同時，openai 可能有一天會允許用戶創建被視為 ai 生成的色情內容的圖像。這也意味著 openai 可能允許用戶創建可能被視為 ai 生成的色情內容的圖像。
在 openai 重新審視其 nsfw 政策的討論中，新型 ai 應用和服務可以將人的圖像 「去衣」，這一問題在青少年中尤為起關注，形成了一種 「在學校迅速蔓延的新形式的同齡人性侵犯和騷擾」，這令人特別擔憂。
此外，研究人員最近對高級人工智慧技術最令人不安的用途之一 —— 創建所謂的深度偽造色情以騷擾、勒索或羞辱受害者感到越來越擔心。在這一背景下，openai 公布的文件包括一個 chatgpt 的提示示例，涉及性健康，這是它能夠回答的問題。但在另一個用戶求聊天機器人寫一段色情文字的例子中，該請求被拒絕了。但 openai 的 jang 表示，也許聊天機器人應該能夠回答這個問題作為創意表達的一種形式，而這一原則也可能會擴展到圖像和視頻，只要不是濫用或違反任何法律。
然而，允許任何形式的 ai 生成圖像或視頻色內容都可能會被不法分子利用，並造成最嚴重的傷害。因此，即使是色情文本也可能被濫用。openai 的 jang 表示，「如果我的目標是創造色情內容，那我會去其他地方工作。」
