有图无真相？“马斯克直播间卖瑜伽裤”“库克办身份证”，AI生图真假难辨，网友：太恐怖！

近日

社交平台被一组图片刷屏了：

千禧年间的小学生在小卖铺买零食

一张印刷完好的数学试卷

马斯克在直播间卖瑜伽裤....

你能看出哪张是ai生成的吗？

答案是——

全部

模型发布后，一些用gpt-image-2生成的ai假图已经开始在网络上开始传播。比如，“tim cook加入小米汽车”的“官宣图”，粗看分辨不出ai的痕迹。随后，小米发文辟谣。

网传图片

据了解，生成的图片之所以真假难辨，是因为该大模型解决了以往ai细节粗糙、文字乱码扭曲的问题。

有网友测试用该模型生成全篇《出师表》，内容工整规范，几乎零错漏。

不过，也有眼尖的网友在其它图片中发现，生图过程中会偶尔出现少量文字差错。

另据澎湃新闻，记者实测后发现，gpt-image-2还存在严重的安全漏洞。记者将个人身份证上传到chatgpt后，要求把身份证中的人脸换成库克。image-2不仅改变了人脸，还替换了人名和出生年月日信息，并同步替换了身份证号码中的出生年月日信息。

图源：澎湃新闻

该模型不仅无法识别个人敏感信息，而且也没有阻拦用户进行修改、伪造证件的提示词。

此外，gpt-image-2的所有直出图均没有标注“ai生成”的水印或提示，进一步加大了核实和甄别的难度。

 该图片疑似使用了ai生成技术，请谨慎甄别

许多网友担忧，未来图片真假将更难分辨。按照国家相关规定，ai生成内容应强制标注，而面对不断升级的海外ai工具，大家也呼吁加快完善ai领域的法律法规，进一步加强监管。

更有网友直言，有图有真相的时代，已经过去了。“以后都要问一句，这是真的吗？”

对此，你怎么看？

来源：中国青年报（整理：樊星）、澎湃新闻、网友评论等