划重点:
- openai 探索允许用户 “负责任” 地制作 ai 色情内容
- 与 ai 产品相关的 nsfw 政策重新审视
- 存在对开放 nsfw 政策风险的担忧
站长之家(chinaz.com) 5月9日 消息:美国人工智能巨头 openai 周三在一份旨在征求其产品规则反馈意见的文件中透露，他们正在探索 “负责任” 地允许用户制作 ai 生成的色情内容。
根据 openai 目前的规则，性暗示内容甚至色情内容大多被禁止。但现在，openai 正在重新审视这一严格的禁令。
openai 在文件中表示:“我们正在探索是否可以在适当年龄段的环境下负责任地提供生成 nsfw 内容的能力。” 该公司表示，nsfw 内容包括不雅用语、极端血腥和色情。openai 模型负责人 joanne jang 在接受 npr 采访时表示，公司希望就其 ai 产品色情文本和裸体图像是否应该被永远禁止展开讨论。
与此同时，openai 可能有一天会允许用户创建被视为 ai 生成的色情内容的图像。这也意味着 openai 可能允许用户创建可能被视为 ai 生成的色情内容的图像。
在 openai 重新审视其 nsfw 政策的讨论中，新型 ai 应用和服务可以将人的图像 “去衣”，这一问题在青少年中尤为起关注，形成了一种 “在学校迅速蔓延的新形式的同龄人性侵犯和骚扰”，这令人特别担忧。
此外，研究人员最近对高级人工智能技术最令人不安的用途之一 —— 创建所谓的深度伪造色情以骚扰、勒索或羞辱受害者感到越来越担心。在这一背景下，openai 公布的文件包括一个 chatgpt 的提示示例，涉及性健康，这是它能够回答的问题。但在另一个用户求聊天机器人写一段色情文字的例子中，该请求被拒绝了。但 openai 的 jang 表示，也许聊天机器人应该能够回答这个问题作为创意表达的一种形式，而这一原则也可能会扩展到图像和视频，只要不是滥用或违反任何法律。
然而，允许任何形式的 ai 生成图像或视频色内容都可能会被不法分子利用，并造成最严重的伤害。因此，即使是色情文本也可能被滥用。openai 的 jang 表示，“如果我的目标是创造色情内容，那我会去其他地方工作。”
