造謠一等一,ChatGPT被徹底玩壞!

2023年02月17日21:54:12 科技 8805

毫無疑問,ai已經取代了vr、加密貨幣、區塊鏈、元宇宙和nft,在2023年2月就提前鎖定了互聯網的年度熱詞。而在一系列ai工具中,擁有真正對話能力的chatpt自然也成為了這場關於ai狂歡的主角。從搜索引擎到語言模型、從新聞媒體到社交平台,我們幾乎可以在互聯網的任何一個角落看到chatgpt的具體應用:有的自媒體用ai工具優化寫作,有的品牌利用ai工具充當“智能客服”甚至是假冒人工客服,有的企業更是直接使用ai工具生成遊戲人物的背景資料或是對白。

但很顯然,並不是所有人在拿到如此強大的ai工具時都會想着如何提高生產力。比如在2月16日,一則利用chatgpt杭州市政府通告的新聞稿就被推上了熱搜。

2023年2月16日,杭州某小區一位業主就將利用chatgpt仿寫的“市政府新聞稿”分享到了業主群中。該新聞稿模仿了杭州市政府的語言習慣,宣布“杭州即將取消限行”。儘管該業主稱自己是在開玩笑,且在網傳的聊天記錄中該業主“直播”了利用chatgpt生成該消息的全過程,以表明該消息為偽造的新聞稿。但依舊有業主將演示視頻中的內容信以為真,在脫離了上下文的情況下轉發至該微信群外,並引起了互聯網的“軒然大波”。

造謠一等一,ChatGPT被徹底玩壞! - 天天要聞

圖片來源:知乎

由於事件影響範圍較大,當地警方迅速澄清相關“新聞稿”系偽造,且對事件展開調查,相關調查結果還需要後續處理。

不過話又說回來,儘管當事人並無惡意,但此次事件依舊暴露出了ai時代的“黑暗面”,當事人“沒有惡意”就已經鬧出了這麼大麻煩,要是chatgpt這樣的工具落入不懷好意的不法分子手中,那我們該怎麼辦。

要是有人想用ai工具害我呢?

歡迎來到ai技術的“黑暗面”

雖然剛剛的說法有些危言聳聽,以chatgpt為例,就小雷這段時間的體驗來說,chatgpt網站穩定性還不足以支撐電信詐騙。但就像“技術無罪”背後的潛台詞一樣,一切工具都有自己的兩面性,石器時代的“鋒利石頭”是這個道理,互聯網時代的ai工具同樣是這個道理。

以剛剛介紹到的ai語言模型chatgpt為例,利用chatgpt“作惡”最簡單的方式自然是用它來模仿他人的語言習慣,以在互聯網上冒充他人。目前,ai可以使用深度學習等技術,通過學習某個人的大量語言數據,生成與該人語言風格相似的文字。這種技術被稱為文本生成或語言模仿。

造謠一等一,ChatGPT被徹底玩壞! - 天天要聞

圖片來源:veer

舉個例子,openai曾經開發了一個名為“gpt-3”的模型,它可以模仿幾乎任何人的語言風格,只需輸入一些該人的文字或樣本即可。該模型已經應用於各種領域,如自動回複電子郵件、自動生成新聞報道等。

而利用語言訓練模型模仿他人語言習慣,這只是利用ai“作惡”的開始。藉助ai語音模型,我們可以從一段音頻中提取出具有某個人音色特點的聲音素材,再聯合語言訓練模型合成出具有某人音色,用詞習慣的音頻文件。再配合上ai換臉的視頻,用ai“偽造一個人”從未如此簡單。

為什麼ai謠言傳播如此迅速?

話題回到剛剛提到過的“ai謠言”上,此次chatgpt“替市政府取消限行”之所以會有如此高的傳播效率,這也和這則謠言本身的特點有關。一般來說,謠言傳播具有快速、煽動、匿名、非正式這四個特徵:

“快速”很好理解,因為人們更容易相信、傳播和分享那些能夠引起共鳴、好奇心或恐懼感的信息。“煽動”的特點雖然沒有在此次“新聞稿”中直接體現,但取消限行行為本身就具有“慫恿”他人違反規定的特性。“匿名”也是同樣的道理,藉助ai工具,謠言的製造者可以有效隱藏自己的身份。而“非正式渠道傳播”的特點也讓這些在社交媒體中流行的謠言無法通過有效的官方渠道驗證。

在過去的謠言中,“快速”“煽動”“非正式”這三個要素非常好滿足,但由於謠言的產生難免會暴露製造者自己的語言習慣,因此過去能廣泛傳播的謠言通常都秉承着“字數越少越好”的特點,畢竟字數越少,謠言製造者自身就越不容易暴露自己的語言習慣,讓謠言看起來“更加真實”,同時也更容易傳播。

造謠一等一,ChatGPT被徹底玩壞! - 天天要聞

圖片來源:veer

而chatgpt這類ai寫作工具改變了謠言的生產模式:

製造者不再需要費盡心思為自己維持一個“匿名人士”的身份,可以直接通過語言模型模仿他人的寫作習慣,直接冒充他人製造、傳播謠言。此外,ai工具的出現讓製造者只需要提供謠言的主題或相關信息,然後讓ai生成相應的謠言內容。這將大幅降低製造謠言的門檻,也一定會導致帶來更多的網絡謠言。

那麼該如何應對未來由ai製造的謠言呢?解鈴還需系鈴人,我們也可以用ai反制謠言。

鑒別ai還得靠ai

儘管ai可以通過訓練來模擬真實人類的寫作,並學習、模仿這些樣本的語言特徵和風格,但歸根結底,ai的寫作方式始終與人類不同。比如一些ai工具生成的文本可能會具有一些特徵,如語法、用詞和表達方式的錯誤或不連貫性。這種現象對我們人類來說可能不容易察覺,但對於ai來說,想要分辨一段文字是否由ai生成,這並不是不可能的事情。

首先,ai可以使用統計語言模型來分析一段文字的概率分布。由於ai語言模型是通過大量的文本數據訓練出來的,因此它們能夠識別常見的語言結構和模式。如果一段文字的概率分布與常見的人類寫作樣本不匹配,那麼ai就可能判斷這段文字是由ai生成的。

其次,ai可以通過對一段文字的內容進行分析來判斷它是否由ai生成。例如,ai可以識別一些常見的話題、主題和表達方式,並嘗試確定這段文字是否符合人類的寫作風格和語言特徵。ai還可以利用網絡熵分析一段文字的製造、傳播方式。如果這段文字具有異常的傳播路徑、速度或者與其他謠言存在相似的傳播軌跡,那麼ai就有可能分辨出這段文字是由ai生成的。

造謠一等一,ChatGPT被徹底玩壞! - 天天要聞

圖片來源:veer

只不過受技術限制,用ai識別ai的成功率還有有待提升。以剛剛提到的統計模型和內容分析為例,訓練一個這樣的ai需要大量有ai生成的文本,而由ai生成的文本只會讓ai進一步提高自己的寫作水平,讓ai寫作更難分辨。

而針對來自ai的謠言,我們除了提高自己的知識水平、判斷和求證能力之外,還需要從法律和社會層面入手。ai開發者和使用者應當承擔起相應的法律和道德責任,加強對ai技術的監管和管理,防範惡意使用ai語言工具生成謠言的行為;而政府、學界、媒體和社會組織也應該加強合作,共同打擊謠言,促進信息公正和公開,引導社會積極的輿論環境。

當然了,這一切也離不開你我共同的努力。ai說到底只不過是一種工具,如何利用還得看我們自己。“警惕智械危機”,從你我做起,從不用chatgpt製造謠言做起。

科技分類資訊推薦

知情人爆料OpenAI進軍瀏覽器市場,挑戰Google Chrome“主導地位” - 天天要聞

知情人爆料OpenAI進軍瀏覽器市場,挑戰Google Chrome“主導地位”

國際在線消息:據路透社報道,有三位知情人士透露,OpenAI即將推出一款由人工智能(AI)驅動的網絡瀏覽器,意在挑戰由谷歌開發的佔據市場主導地位的Google Chrome瀏覽器。OpenAI 資料圖(來源:IC photo) 報道稱,這款瀏覽器預計將在未來數周內正式發布,旨在利用AI從根本上改變用戶瀏覽網頁的方式,同時為OpenAI獲取谷歌...
iPhone摺疊手機屏幕即將進入生產階段,三星獨家代工 - 天天要聞

iPhone摺疊手機屏幕即將進入生產階段,三星獨家代工

7月10日消息,據韓媒 ETNews 今日報道,三星正在準備為蘋果摺疊 iPhone 手機生產屏幕面板,目前該屏幕面板的廠房、流水線已接近完工。該報首先援引了業內人士的消息,稱三星顯示正在忠清南道牙山的 A3 工廠內建設蘋果摺疊 iPhone 的專用生產線,該生產線已於去年開始更換設備,目前已接近完工。據悉,該生產線每月可處理 3...
OpenAI將發布AI瀏覽器,挑戰谷歌 - 天天要聞

OpenAI將發布AI瀏覽器,挑戰谷歌

谷歌Chrome目前擁有全球瀏覽器市場超過三分之二的份額。據路透社援引三位知情人士透露,OpenAI即將發布一款由人工智能驅動的網絡瀏覽器,該瀏覽器將挑戰Alphabet旗下佔市場主導地位的谷歌Chrome瀏覽器 。
IP69K到底是什麼?榮耀X70以工業級防護重塑手機防水高度 - 天天要聞

IP69K到底是什麼?榮耀X70以工業級防護重塑手機防水高度

在智能手機市場競爭日益同質化的今天,消費者對產品品質的關注回歸本質,耐用性成為衡量一款手機價值的重要標尺。2025年7月10日,榮耀正式公布了即將發布的新機——榮耀X70的防水性能參數,其將支持IP66、IP68、IP69及IP69K四重防
全球最快、跑出全新試驗速度 中國高鐵再次衝上熱搜 - 天天要聞

全球最快、跑出全新試驗速度 中國高鐵再次衝上熱搜

為期三天的第十七屆中國國際現代化鐵路技術裝備展今天落幕,本屆展覽全球500餘家企業帶來了行業領先的技術和展品,記者在採訪中發現,中國高鐵技術全球領跑的優勢在持續擴大。3天的展期,4萬平方米的展覽面積,14個國家和地區的鐵路企業匯聚,展示了世界鐵路技術的最新成果,也讓中國高鐵再次衝上了熱搜。總台央視記者鄭連...
獲國家級認可!深圳這家醫院自主研發智慧養老評估系統入選國家推廣目錄 - 天天要聞

獲國家級認可!深圳這家醫院自主研發智慧養老評估系統入選國家推廣目錄

近日,工業和信息化部、民政部、國家衛生健康委員會聯合發布了《智慧健康養老產品及服務推廣目錄(2024年版)》,深圳市第二人民醫院大鵬新區南澳醫院(南澳人民醫院)自主研發的“智慧老年人需求與綜合能力評估系統”脫穎而出,成功入選老年人能力評估類目錄,全國僅3例。這一系統的入選,標誌着南澳人民醫院在智慧養老領...
Manus跑路了嗎? - 天天要聞

Manus跑路了嗎?

衡宇 發自 凹非寺量子位 | 公眾號 QbitAIManus,真的從國內撤了?!4個月前一夜躥紅起飛的AI Agent產品Manus,剛被曝出背後公司一舉裁掉國內七成團隊。事實上,Manus總部已在5月搬到了新加坡,國內員工何去何從?現在答