造謠一等一,ChatGPT被徹底玩壞!

2023年02月17日21:54:12 科技 8805

毫無疑問,ai已經取代了vr、加密貨幣、區塊鏈、元宇宙和nft,在2023年2月就提前鎖定了互聯網的年度熱詞。而在一系列ai工具中,擁有真正對話能力的chatpt自然也成為了這場關於ai狂歡的主角。從搜索引擎到語言模型、從新聞媒體到社交平台,我們幾乎可以在互聯網的任何一個角落看到chatgpt的具體應用:有的自媒體用ai工具優化寫作,有的品牌利用ai工具充當「智能客服」甚至是假冒人工客服,有的企業更是直接使用ai工具生成遊戲人物的背景資料或是對白。

但很顯然,並不是所有人在拿到如此強大的ai工具時都會想着如何提高生產力。比如在2月16日,一則利用chatgpt杭州市政府通告的新聞稿就被推上了熱搜。

2023年2月16日,杭州某小區一位業主就將利用chatgpt仿寫的「市政府新聞稿」分享到了業主群中。該新聞稿模仿了杭州市政府的語言習慣,宣布「杭州即將取消限行」。儘管該業主稱自己是在開玩笑,且在網傳的聊天記錄中該業主「直播」了利用chatgpt生成該消息的全過程,以表明該消息為偽造的新聞稿。但依舊有業主將演示視頻中的內容信以為真,在脫離了上下文的情況下轉發至該微信群外,並引起了互聯網的「軒然大波」。

造謠一等一,ChatGPT被徹底玩壞! - 天天要聞

圖片來源:知乎

由於事件影響範圍較大,當地警方迅速澄清相關「新聞稿」系偽造,且對事件展開調查,相關調查結果還需要後續處理。

不過話又說回來,儘管當事人並無惡意,但此次事件依舊暴露出了ai時代的「黑暗面」,當事人「沒有惡意」就已經鬧出了這麼大麻煩,要是chatgpt這樣的工具落入不懷好意的不法分子手中,那我們該怎麼辦。

要是有人想用ai工具害我呢?

歡迎來到ai技術的「黑暗面」

雖然剛剛的說法有些危言聳聽,以chatgpt為例,就小雷這段時間的體驗來說,chatgpt網站穩定性還不足以支撐電信詐騙。但就像「技術無罪」背後的潛台詞一樣,一切工具都有自己的兩面性,石器時代的「鋒利石頭」是這個道理,互聯網時代的ai工具同樣是這個道理。

以剛剛介紹到的ai語言模型chatgpt為例,利用chatgpt「作惡」最簡單的方式自然是用它來模仿他人的語言習慣,以在互聯網上冒充他人。目前,ai可以使用深度學習等技術,通過學習某個人的大量語言數據,生成與該人語言風格相似的文字。這種技術被稱為文本生成或語言模仿。

造謠一等一,ChatGPT被徹底玩壞! - 天天要聞

圖片來源:veer

舉個例子,openai曾經開發了一個名為「gpt-3」的模型,它可以模仿幾乎任何人的語言風格,只需輸入一些該人的文字或樣本即可。該模型已經應用於各種領域,如自動回複電子郵件、自動生成新聞報道等。

而利用語言訓練模型模仿他人語言習慣,這只是利用ai「作惡」的開始。藉助ai語音模型,我們可以從一段音頻中提取出具有某個人音色特點的聲音素材,再聯合語言訓練模型合成出具有某人音色,用詞習慣的音頻文件。再配合上ai換臉的視頻,用ai「偽造一個人」從未如此簡單。

為什麼ai謠言傳播如此迅速?

話題回到剛剛提到過的「ai謠言」上,此次chatgpt「替市政府取消限行」之所以會有如此高的傳播效率,這也和這則謠言本身的特點有關。一般來說,謠言傳播具有快速、煽動、匿名、非正式這四個特徵:

「快速」很好理解,因為人們更容易相信、傳播和分享那些能夠引起共鳴、好奇心或恐懼感的信息。「煽動」的特點雖然沒有在此次「新聞稿」中直接體現,但取消限行行為本身就具有「慫恿」他人違反規定的特性。「匿名」也是同樣的道理,藉助ai工具,謠言的製造者可以有效隱藏自己的身份。而「非正式渠道傳播」的特點也讓這些在社交媒體中流行的謠言無法通過有效的官方渠道驗證。

在過去的謠言中,「快速」「煽動」「非正式」這三個要素非常好滿足,但由於謠言的產生難免會暴露製造者自己的語言習慣,因此過去能廣泛傳播的謠言通常都秉承着「字數越少越好」的特點,畢竟字數越少,謠言製造者自身就越不容易暴露自己的語言習慣,讓謠言看起來「更加真實」,同時也更容易傳播。

造謠一等一,ChatGPT被徹底玩壞! - 天天要聞

圖片來源:veer

而chatgpt這類ai寫作工具改變了謠言的生產模式:

製造者不再需要費盡心思為自己維持一個「匿名人士」的身份,可以直接通過語言模型模仿他人的寫作習慣,直接冒充他人製造、傳播謠言。此外,ai工具的出現讓製造者只需要提供謠言的主題或相關信息,然後讓ai生成相應的謠言內容。這將大幅降低製造謠言的門檻,也一定會導致帶來更多的網絡謠言。

那麼該如何應對未來由ai製造的謠言呢?解鈴還需系鈴人,我們也可以用ai反制謠言。

鑒別ai還得靠ai

儘管ai可以通過訓練來模擬真實人類的寫作,並學習、模仿這些樣本的語言特徵和風格,但歸根結底,ai的寫作方式始終與人類不同。比如一些ai工具生成的文本可能會具有一些特徵,如語法、用詞和表達方式的錯誤或不連貫性。這種現象對我們人類來說可能不容易察覺,但對於ai來說,想要分辨一段文字是否由ai生成,這並不是不可能的事情。

首先,ai可以使用統計語言模型來分析一段文字的概率分佈。由於ai語言模型是通過大量的文本數據訓練出來的,因此它們能夠識別常見的語言結構和模式。如果一段文字的概率分佈與常見的人類寫作樣本不匹配,那麼ai就可能判斷這段文字是由ai生成的。

其次,ai可以通過對一段文字的內容進行分析來判斷它是否由ai生成。例如,ai可以識別一些常見的話題、主題和表達方式,並嘗試確定這段文字是否符合人類的寫作風格和語言特徵。ai還可以利用網絡熵分析一段文字的製造、傳播方式。如果這段文字具有異常的傳播路徑、速度或者與其他謠言存在相似的傳播軌跡,那麼ai就有可能分辨出這段文字是由ai生成的。

造謠一等一,ChatGPT被徹底玩壞! - 天天要聞

圖片來源:veer

只不過受技術限制,用ai識別ai的成功率還有有待提升。以剛剛提到的統計模型和內容分析為例,訓練一個這樣的ai需要大量有ai生成的文本,而由ai生成的文本只會讓ai進一步提高自己的寫作水平,讓ai寫作更難分辨。

而針對來自ai的謠言,我們除了提高自己的知識水平、判斷和求證能力之外,還需要從法律和社會層面入手。ai開發者和使用者應當承擔起相應的法律和道德責任,加強對ai技術的監管和管理,防範惡意使用ai語言工具生成謠言的行為;而政府、學界、媒體和社會組織也應該加強合作,共同打擊謠言,促進信息公正和公開,引導社會積極的輿論環境。

當然了,這一切也離不開你我共同的努力。ai說到底只不過是一種工具,如何利用還得看我們自己。「警惕智械危機」,從你我做起,從不用chatgpt製造謠言做起。

科技分類資訊推薦

諾基亞助力印尼電信巨頭實現綠色智能轉型 - 天天要聞

諾基亞助力印尼電信巨頭實現綠色智能轉型

近日,印尼領先的數字電信公司Indosat Ooredoo Hutchison部署了諾基亞能源效率解決方案,旨在降低其全國無線電接入網絡(RAN)的能源需求和二氧化碳排放。該方案是諾基亞自主網絡組合的一部分,利用人工智能和機器學習算法分析實時流量模式,在低網絡需求時段自動關閉閑置和未使用的無線電設備。諾基亞能源效率解決方案採用...
引領健康新潮流,三星Galaxy Watch8系列讓健康生活大踏步 - 天天要聞

引領健康新潮流,三星Galaxy Watch8系列讓健康生活大踏步

【ZOL中關村在線原創新聞】要想實現健康的生活方式其實很簡單,保持規律的生活節奏和健康的飲食習慣,就能輕鬆達成目標。這也是智能手錶越來越盛行的原因之一。在科技手段的幫助下,管理健康生活將變得更加簡易方便。尤其是近日推出的三星Galaxy Watch8系列,還針對自律和健康管理推出多項創新功能,可量化不同行為對健康的...
理想i8月底來襲!720km純電續航+10分鐘充500km,家用首選? - 天天要聞

理想i8月底來襲!720km純電續航+10分鐘充500km,家用首選?

7月9日,從理想汽車官方獲悉,旗下首款純電SUV——理想i8將於7月29日正式上市,新車定位中大型六座SUV,軸距3050mm,動力上將全系標配雙電機智能四驅,標配5C三元鋰電池,CLTC純電續航最高720km,同時全系標配激光雷達,預計售價35萬元左右。理想汽車CEO李想發文表示:近期有購買SUV、MPV意向的用戶,看完發佈會再做購買決...
中國衛星上半年預虧最高4120萬元:商業航天競爭承壓,擬加快業務轉型突圍 - 天天要聞

中國衛星上半年預虧最高4120萬元:商業航天競爭承壓,擬加快業務轉型突圍

每經記者:楊卉 每經編輯:魏文藝7月10日晚間,中國衛星(SH600118,股價27.88元,市值329.68億元)公告稱,預計2025年半年度報告將出現虧損,與上年同期相比將由盈轉虧。至於虧損原因,中國衛星列舉了以下幾點:上半年公司可確認收入同比下降,相關產品交付增量是以毛利率較低的商業航天產品為主,以及幾家子公司的經營狀...
非營利研究機構 METR:資深程序員使用 AI 反而會拖慢開發速度 - 天天要聞

非營利研究機構 METR:資深程序員使用 AI 反而會拖慢開發速度

IT之家 7 月 10 日消息,據路透社今日報道,非營利機構 METR 的最新研究發現,和大家普遍認為的相反,經驗豐富的軟件開發者在使用最先進的 AI 工具輔助熟悉的代碼庫時,反而變得更慢,而不是更快。該機構對一批資深開發者進行了深入調查,他們用流行的 AI 編程助手 Cursor 來完成自己熟悉的開源項目任務。研究開始前,這些...
華為啟動全球教育醫療夥伴聯盟,倡議推動 AI 診療商業模式落地 - 天天要聞

華為啟動全球教育醫療夥伴聯盟,倡議推動 AI 診療商業模式落地

IT之家 7 月 10 日消息,在 2025 全球教育醫療合作夥伴中國周期間,華為今日成功舉辦教育醫療行業合作夥伴峰會。來自 40 個國家的 300 余位夥伴嘉賓參會,共話教育和醫療行業數智化轉型新未來。會上,華為啟動全球教育醫療夥伴聯盟(GEHPA)計劃,旨在增強行業夥伴的交流,互補優勢,實現合作共贏。▲ 華為全球教育夥伴聯盟...