从擦边球到开绿灯,生成式AI正在探索开放成人内容

2024年05月11日21:05:11 科技 1279

从擦边球到开绿灯,生成式AI正在探索开放成人内容 - 天天要闻

在AI飞速发展的今天,一个令人不安的话题浮出水面 - AI是否应涉足生成色情内容?

OpenAI公司最近引爆了这枚重磅炸弹,称他们正在探索"以负责任的方式"生成AI成人内容,为其开了一个绝不应有的芝麻小口。

OpenAI的理由是要赋予人们最大限度地控制权,只要内容不触犯法律或侵犯他人权利。他们宣称,在某些创作性场景中,包含性或裸露内容是不可或缺的,然而,这种立场充满荆棘,走在一条危险的钢丝索上。

从擦边球到开绿灯,生成式AI正在探索开放成人内容 - 天天要闻

首先,生成模型训练所使用的海量公开网络数据,其中不乏未经授权的成人作品。这意味着,如果AI生成的色情内容投射到主流市场,将直接蚕食那些创作者的生计,成为他们苦心经营事业的绊脚石。

此外,当下的内容审查和监管系统存在着明显缺陷,用户可以轻而易举地找到绕过这些机制的漏洞,滥用AI生成令人发指的内容。事实上,AI已经成为一种新型性虐待工具,在校园中施暴者可利用AI"剥去"同学照片中的衣物,对其实施"虚拟猥亵"。一项调查显示,14%的16至64岁受访者曾遭受过AI深度伪造图像的侵害。

从擦边球到开绿灯,生成式AI正在探索开放成人内容 - 天天要闻

最令人忧心的是,现行法律难以跟上AI行业飞快的发展步伐,即便未来出台新法规,司法系统也可能难以彻底根除这一领域的犯罪活动。

纵观全局,OpenAI的做法势必掀起轩然大波。他们可能最终不得不重新考虑自己的立场,因为无论如何,在AI生成色情内容这个充满争议和高风险的领域,任何企业都难以把握分寸,防患于未然。我们拭目以待,这出戏究竟将如何上演。

科技分类资讯推荐

刚刚,雷军突然发文 - 天天要闻

刚刚,雷军突然发文

5月10日早间,小米创办人、董事长兼CEO雷军在微博发文称,“过去一个多月,是我创办小米以来最艰难的一段时间,情绪比较低落,取消了一些会议安排和出差计划,也暂停了一段在社交媒体上的互动。过去这几年一直很忙,这段时间反而可以静下心来,仔细思考,确实有一些收获……最近看了很多朋友的留言,特别感动。大家的关心和...
墨西哥起诉谷歌 - 天天要闻

墨西哥起诉谷歌

据央视新闻消息,当地时间5月9日,墨西哥总统辛鲍姆宣布,该国已正式起诉谷歌公司,因其在美国用户的谷歌地图服务中将“墨西哥湾”更名为“美国湾”。辛鲍姆表示,诉讼文件已经提交,但未透露具体提交的法院机构及时间节点。▲墨西哥总统辛鲍姆(资料图)今年1月20日,美国总统特朗普签署行政令,将“墨西哥湾”更名为“美...
雷军:过去一个多月是我创办小米以来最艰难的一段时间 - 天天要闻

雷军:过去一个多月是我创办小米以来最艰难的一段时间

5月10日早间,小米创办人、董事长兼CEO雷军在微博发文称,“过去一个多月,是我创办小米以来最艰难的一段时间,情绪比较低落,取消了一些会议安排和出差计划,也暂停了一段在社交媒体上的互动。过去这几年一直很忙,这段时间反而可以静下心来,仔细思考,确实有一些收获……最近看了很多朋友的留言,特别感动。大家的关心和...
三星最薄旗舰 Galaxy S25 Edge 手机渲染图再曝 - 天天要闻

三星最薄旗舰 Galaxy S25 Edge 手机渲染图再曝

IT之家 5 月 10 日消息,科技媒体 ytechb 昨日(5 月 9 日)发布博文,分享了三星最薄旗舰 Galaxy S25 Edge 手机的高清渲染图,并透露有 256GB 和 512GB 售价版本,售价分别为 1299 欧元(现汇率约合 10595 元人民币)和 1419 欧元(现汇率约合 11574 元人民币)。外观方面,机身采用扁平化设计,这款超
三星 Galaxy Watch 8/Classic 智能手表曝光:方圆设计 - 天天要闻

三星 Galaxy Watch 8/Classic 智能手表曝光:方圆设计

IT之家 5 月 10 日消息,科技媒体 Android Authority 昨日(5 月 9 日)发布博文,报道称在挖掘 One UI 8 Watch 固件后,发现三星 Galaxy Watch 8 和 Galaxy Watch 8 Classic 两款手表可能均采用 squircle(方圆结合)外观设计。该媒体从固件中挖掘相关图片,显示 Galaxy W
道指跌逾100点,特斯拉涨近5% - 天天要闻

道指跌逾100点,特斯拉涨近5%

中新经纬5月10日电 美东时间周五,美国三大股指多数收跌,道指跌0.29%,标普500指数跌0.07%,纳指持平。安进、默克跌超2%,领跌道指。万得美国科技七巨头指数涨0.16%,特斯拉大涨4.72%,苹果涨0.53%。中概股涨跌不一,理想汽车跌2.2%。来源:Wind截图 截至收盘,道琼斯工业指数跌0.29%,标普500指数跌0.07%,纳斯达克指数持..
抱团取暖的日本AI半吊子们 - 天天要闻

抱团取暖的日本AI半吊子们

本文来自微信公众号:日商日旅,作者:KYOKU,题图来自:AI生成本篇为《为什么日本出不来DeepSeek》的下篇。在此笔者将介绍两家在日本虽在头部,却又十分另类的AI公司,以及日本AI产业背后的推动者们。想要勾勒出日本AI行业的面貌着实不
Steam 4 月硬件调查出炉,RTX5070显卡首度跻身 - 天天要闻

Steam 4 月硬件调查出炉,RTX5070显卡首度跻身

在刚刚过去的五一假期中,Steam如期上演了月度赛博斗蛐蛐环节:2025年4月steam硬件调查报告正式公布(Steam硬件调查数据均来自愿参与的用户,无法代表全球范围PC硬件份额情况)来自NVIDIA的GeForceRTX 5070/5070Ti/5080则是进入Steam硬件调查的统计榜单。其中RTX5070和RTX5080的市场占有率为0.38%,而R