从擦边球到开绿灯，生成式AI正在探索开放成人内容

在AI飞速发展的今天，一个令人不安的话题浮出水面 - AI是否应涉足生成色情内容?

OpenAI公司最近引爆了这枚重磅炸弹，称他们正在探索"以负责任的方式"生成AI成人内容，为其开了一个绝不应有的芝麻小口。

OpenAI的理由是要赋予人们最大限度地控制权，只要内容不触犯法律或侵犯他人权利。他们宣称，在某些创作性场景中，包含性或裸露内容是不可或缺的，然而，这种立场充满荆棘，走在一条危险的钢丝索上。

首先，生成模型训练所使用的海量公开网络数据，其中不乏未经授权的成人作品。这意味着，如果AI生成的色情内容投射到主流市场，将直接蚕食那些创作者的生计，成为他们苦心经营事业的绊脚石。

此外，当下的内容审查和监管系统存在着明显缺陷，用户可以轻而易举地找到绕过这些机制的漏洞，滥用AI生成令人发指的内容。事实上，AI已经成为一种新型性虐待工具，在校园中施暴者可利用AI"剥去"同学照片中的衣物，对其实施"虚拟猥亵"。一项调查显示，14%的16至64岁受访者曾遭受过AI深度伪造图像的侵害。

最令人忧心的是，现行法律难以跟上AI行业飞快的发展步伐，即便未来出台新法规，司法系统也可能难以彻底根除这一领域的犯罪活动。

纵观全局，OpenAI的做法势必掀起轩然大波。他们可能最终不得不重新考虑自己的立场，因为无论如何，在AI生成色情内容这个充满争议和高风险的领域，任何企业都难以把握分寸，防患于未然。我们拭目以待，这出戏究竟将如何上演。