近日,用ai製作「流浪漢闖入家中」圖片來整蠱家人的帖子在社交平台泛濫成災。有人用高度逼真的ai圖片發給親人或配偶,導致對方驚慌報警,物業逐層排查,派出所緊急響應。
ai生成技術的普及讓虛假信息製造變得輕而易舉。輸入關鍵詞即可生成逼真圖片的便利性,使以假亂真的ai假圖橫行。但這場ai整蠱鬧劇不應歸咎於技術,ai作為工具,其價值取決於使用者的倫理選擇。
警惕ai整蠱被過度娛樂化,成年人要對網絡信息有一定判斷力,不要跟風玩梗,ai整蠱本質是傳播虛假圖片,美其名曰「測試」實則在消耗親密關係,「狼來了」的故事講多了,信任也就崩塌了。法律方面,雖然這個「玩笑」本意不是讓親人報警,但明知家人可能誤判報警仍故意製作ai內容,已構成「間接故意」。此前某地ai假尋人啟事引發的行政拘留案例,正是前車之鑒,不要以玩梗的名義挑戰法律紅線。
現在,各類ai工具都會在生成圖片是打上水印,方便公眾甄別真偽,但用戶可以輕鬆地將其裁掉。技術層面能不能再加一道「安全鎖」,容易引起恐慌的圖片文字等,顯示ai生成的水印可以再明顯一些,或者平台在傳播相關圖片時可以提示由ai生成。
平台需思考強化ai生成內容的標識管理,法律應提高技術濫用的違法成本,而每個技術使用者更需明白:當ai從賦能真實淪為製造虛假時,我們失去的不僅是公共資源,更是文明社會最珍貴的信任基石。