有圖無真相？「馬斯克直播間賣瑜伽褲」「庫克辦身份證」，AI生圖真假難辨，網友：太恐怖！

近日

社交平台被一組圖片刷屏了：

千禧年間的小學生在小賣鋪買零食

一張印刷完好的數學試卷

馬斯克在直播間賣瑜伽褲....

你能看出哪張是ai生成的嗎？

答案是——

全部

模型發布後，一些用gpt-image-2生成的ai假圖已經開始在網路上開始傳播。比如，「tim cook加入小米汽車」的「官宣圖」，粗看分辨不出ai的痕迹。隨後，小米發文闢謠。

網傳圖片

據了解，生成的圖片之所以真假難辨，是因為該大模型解決了以往ai細節粗糙、文字亂碼扭曲的問題。

有網友測試用該模型生成全篇《出師表》，內容工整規範，幾乎零錯漏。

不過，也有眼尖的網友在其它圖片中發現，生圖過程中會偶爾出現少量文字差錯。

另據澎湃新聞，記者實測後發現，gpt-image-2還存在嚴重的安全漏洞。記者將個人身份證上傳到chatgpt後，要求把身份證中的人臉換成庫克。image-2不僅改變了人臉，還替換了人名和出生年月日信息，並同步替換了身份證號碼中的出生年月日信息。

圖源：澎湃新聞

該模型不僅無法識別個人敏感信息，而且也沒有阻攔用戶進行修改、偽造證件的提示詞。

此外，gpt-image-2的所有直出圖均沒有標註「ai生成」的水印或提示，進一步加大了核實和甄別的難度。

 該圖片疑似使用了ai生成技術，請謹慎甄別

許多網友擔憂，未來圖片真假將更難分辨。按照國家相關規定，ai生成內容應強制標註，而面對不斷升級的海外ai工具，大家也呼籲加快完善ai領域的法律法規，進一步加強監管。

更有網友直言，有圖有真相的時代，已經過去了。「以後都要問一句，這是真的嗎？」

對此，你怎麼看？

來源：中國青年報（整理：樊星）、澎湃新聞、網友評論等