虛假信息面前,AI為何「智商下線」?

2025年07月04日20:22:06 科技 1343
虛假信息面前,AI為何「智商下線」? - 天天要聞

□曹欣怡(雲南財經大學)

7月4日,「DeepSeek給王一博道歉是假的」衝上微博熱搜。據稱,這家人工智慧公司因內容審核疏漏,將王一博與「李愛慶腐敗案」不當關聯,損害了其名譽,並已作出正式道歉。然而,DeepSeek官方從未發表過道歉聲明,相關信息中也沒有任何一則明確指出DeepSeek的道歉渠道,部分媒體發布的所謂的聲明截圖竟本身就是AI生成的文字,還帶有AI生成的水印。聲明中所提及的法律判決書,在中國裁判文書網上也檢測不到。(7月4日 極目新聞)

AI技術本應是高效、準確的信息助手,如今卻淪為發布虛假信息的「造謠者」。這不僅讓公眾對AI的信任度大打折扣,也給網路信息傳播秩序帶來極大衝擊。

從技術層面看,AI大模型基於概率和數據訓練生成內容,缺乏真正的事實核查與語義理解能力。換句話說,AI並沒有人類那樣可以分辨是非與真實理解內容的能力。當網路中存在大量虛假信息時,AI很容易被誤導,陷入「垃圾進,垃圾出」的困境。此次事件中,可能是部分網友帶著偏見的誘導性提問,讓AI模型生成了虛構的道歉聲明及司法判決內容。這凸顯出當前AI技術在處理複雜、真假難辨的信息時,存在嚴重的缺陷。且為了給出用戶答案,甚至會出現偽造信息的情況。

在信息傳播過程中,AI生成的虛假內容藉助媒體和社交平台的快速傳播,產生了傳播的連鎖反應。大量自媒體、網路新媒體乃至傳統媒體未加核實就紛紛轉發,形成一種確有其事的輿論氛圍。而當其他AI大模型再去檢索相關信息時,又會將這些虛假內容作為「信源」進一步傳播,造成惡性循環。比如,當有網友向其他AI大模型詢問該事件時,得到的答案也是DeepSeek的確道歉了,在一系列的傳播鏈條中,AI的「頭腦」已被虛假信息嚴重污染。

AI技術的濫用也為網路虛假信息治理帶來新挑戰。一方面,目前對於AI生成內容的責任界定尚不明確。如果AI生成了虛假信息,究竟是AI研發公司的責任,還是使用AI的用戶責任,抑或是傳播平台的責任?在此次事件中,很難確定最初的虛假信息是如何通過AI生成並擴散開來的,也難以對相關責任主體進行追責。另一方面,公眾缺乏對AI生成虛假信息的媒介素養。隨著AI技術的普及,人們越來越依賴AI獲取信息,卻往往忽視了其可能存在的錯誤和虛假性。在面對AI生成的看似權威的內容時,大多數人缺乏質疑和查證的意識。

AI技術的發展是一把雙刃劍,它在為我們帶來便利的同時,也帶來了新的風險和挑戰。此次「DeepSeek道歉」假新聞事件,給我們敲響了警鐘。只有通過技術升級、媒體自律和法律規制等多方面的努力,才能讓AI更好地服務於社會,避免其淪為虛假信息的「幫凶」,營造健康、有序的網路信息環境。

本文為紅辣椒評論原創文章,僅系作者個人觀點,不代表紅網立場。轉載請附原文出處鏈接和本聲明。

科技分類資訊推薦

15元可激光打標定製充電寶3C符號!律師:偽造認證標誌違法 - 天天要聞

15元可激光打標定製充電寶3C符號!律師:偽造認證標誌違法

新京報貝殼財經訊(記者俞金旻) 充電寶乘機「新規」一周,充電寶自棄量大幅下降,越來越多的旅客會選購符合乘機要求的充電寶,並在出門前仔細檢查。6月28日起,中國民航局禁止旅客攜帶沒有3C標識、3C標識不清晰、被召回型號或批次的充電寶乘坐境內航班。此前,貝殼財經記者曾報道,電商平台有商家售賣3C認證標籤貼紙,相關...
上海浦東機場宣布:正式啟用!13台睡眠艙來了,「可充電,有燈、小平板」,價格公布 - 天天要聞

上海浦東機場宣布:正式啟用!13台睡眠艙來了,「可充電,有燈、小平板」,價格公布

上海浦東機場T2航站樓有睡眠艙了7月4日,記者從睡眠艙運營商相關負責人處了解到,在浦東機場T2國際出發D65登機口處,首批13台睡眠艙已投入運營,目前24小時開放,艙內有新風系統,提供毯子,一客一清潔消毒。價格表顯示,休息半小時35元、一小時65元、1.5小時95元、2小時125元、3小時185元,滿360分鐘送120分鐘、也就...
標配智能電混四驅+激光雷達 領克10 EM-P正式發布 - 天天要聞

標配智能電混四驅+激光雷達 領克10 EM-P正式發布

【TechWeb】7月4日消息,領克品牌旗下首款中大型豪華運動轎車領克10 EM-P今日迎來首秀。新車標配四驅和激光雷達,同時搭載領克全新EM-P智能電混系統,將於下月開啟預售,並在第三季度內完成上市。外觀方面,新車採用了領克The Next Day設計語言,整體風格與領克Z10十分相似。車頭採用標誌性的分體式頭燈,下方配有貫穿式燈...
全球發明大會中國區上海開賽,超2000名學生參賽,宇樹機器人也穿上賽服 - 天天要聞

全球發明大會中國區上海開賽,超2000名學生參賽,宇樹機器人也穿上賽服

7月4日,2024-2025年度全球發明大會中國區(ICC)上海賽區在寶山區青少年活動中心開賽。宇樹科技機器人G1與2000多名來自長三角等地區的參賽青少年一樣,也穿上賽服躍躍欲試。它還和小發明家一起,與現場觀賽的中國科學院院士、上海技術物理研究所研究員、世界電磁波科學界最高獎得主沈學礎等握手相擁。沈學礎院士與小選手在...
朝陽前瞻布局元宇宙,未來顯示產業園等成果批量上新 - 天天要聞

朝陽前瞻布局元宇宙,未來顯示產業園等成果批量上新

元宇宙是北京市重點布局的未來產業之一。7月4日,作為全國規模最大、產業鏈生態最完整的元宇宙(互聯網3.0)生態發展集聚區,朝陽區舉辦2025全球數字經濟大會AIGC與元宇宙融合發展論壇。AIGC(人工智慧內容生成)工具平台、2025朝陽區元宇宙標杆示範應用場景、元宇宙應用場景示範基地、未來顯示產業園、ULive超現場播控中心...
虛假信息面前,AI為何「智商下線」? - 天天要聞

虛假信息面前,AI為何「智商下線」?

□曹欣怡(雲南財經大學)7月4日,「DeepSeek給王一博道歉是假的」衝上微博熱搜。據稱,這家人工智慧公司因內容審核疏漏,將王一博與「李愛慶腐敗案」不當關聯,損害了其名譽,並已作出正式道歉。
無3C標識充電寶「禁飛」首周:民航與鐵路安檢標準不一 - 天天要聞

無3C標識充電寶「禁飛」首周:民航與鐵路安檢標準不一

自6月28日起,民航局禁止旅客攜帶無3C標識及被召回的充電寶乘坐境內航班,另一方面,鐵路部門並不查驗充電寶3C認證標識或品牌。針對充電寶「禁飛」一周來的落實情況,記者進行了走訪調查。濟南遙牆國際機場:鼓包或破損的充電寶也「禁飛」7月4日,濟南遙牆國際機場工作人員向記者表示,該機場嚴格執行民航局通知,禁止旅客...